Künstliche Intelligenz: Marktplatz statt Transparenzregister
Dieser Artikel stammt von Netzpolitik.org.
Künstliche Intelligenz: Marktplatz statt Transparenzregister
Sogenannte Künstliche Intelligenz spielt eine immer wichtigere Rolle, auch in der öffentlichen Verwaltung. Um die Gefahren automatisierter Entscheidungssysteme abzuschwächen, können etwa Transparenzregister helfen. Nun hat der Bund eines aufgesetzt – mit deutlichen Schwächen.
29.01.2025 um 19:08 Uhr
–
Tomas Rudl – in
Nutzerrechte –
keine Ergänzungen Automatisierte Entscheidungssysteme sind oft nur schwer durchschaubar, können aber ernsthafte Folgen für Betroffene haben. (Symbolbild)
– Alle Rechte vorbehalten IMAGO / Panthermedia In die öffentliche Verwaltung zieht in großem Stil sogenannte Künstliche Intelligenz (KI) ein. Dazu gehören Chatbots wie ChatBMUV, Tools für maschinelles Übersetzen im Auswärtigen Amt und eine Bildddatenbank des Bundespresseamts, die bei offiziellen Terminen Personen öffentlichen Interesses identifiziert und automatisch ihre Metadaten hinterlegt.
175 solcher KI-Systeme sind in Deutschland derzeit in Entwicklung oder bereits im Einsatz. Das lässt sich dem jüngst online gestellten KI-Transparenzregister entnehmen. Betrieben vom Bundesministerium des Innern und für Heimat (BMI) soll es vorzeitig die Vorgaben aus der KI-Verordnung (AI Act) umsetzen und sogar darüber hinausgehen.
Dem Register zufolge hat das Umweltbundesamt Stand heute die Nase vorn. Dort sind knapp 50 KI-Systeme registriert, dahinter folgen die Bundesagentur für Arbeit mit 15 und das Bundesamt für Verbraucherschutz und Lebensmittelsicherheit mit 14 solcher Systeme. Thematisch dominieren die Bereiche „Energie und Umwelt“ und „Forschung“, gut im Rennen sind zudem „Arbeit und Soziales“ sowie „Öffentliche Verwaltung“.
Marktplatz der KI-Möglichkeiten
Das Transparenzregister soll erstmals eine Übersicht über bestehende und geplante KI-Systeme der Bundesverwaltung bieten. Das BMI will einen „Marktplatz der KI-Möglichkeiten“ (MaKI) entstehen lassen, wie das Register offiziell heißt. Insgesamt soll das nicht nur Vertrauen in der Bevölkerung sowie Verwaltung schaffen, sondern auch die Grundlage für Kooperationen und Nachnutzung von KI-Tools bilden.
Schon seit Jahren machen sich KI-Tools in der öffentlichen Verwaltung breit. Sie sollen den Staat effizienter, schneller und unbürokratischer machen, sagte etwa Bundesinnenministerin Nancy Faeser (SPD) anlässlich des Marktplatz-Starts. Wie umfänglich sich diese Versprechen erfüllen lassen, bleibt indes vorerst offen.
Bislang hatte eine aktuell gehaltene Übersicht der Tools und ihrer Einsatzzwecke gefehlt. Einen Einblick in das, was deutsche Behörden und Ministerien mit der Technik anstellen, hatten bestenfalls sporadisch gestellte parlamentarische Anfragen geboten – verpackt in unhandliche PDFs, die sich nur schwer auswerten lassen.
Langjährige Forderung
Das soll das neue KI-Transparenzregister ändern. Zivilgesellschaftliche Gruppen hatten so etwas seit vielen Jahren gefordert, insbesondere dann, wenn automatisierte Systeme in staatlicher Hand über Schicksale von Menschen entscheiden. Als Allheilmittel gilt es zwar nicht, könne aber die „Rechte der Betroffenen stärken und den Verwaltungen helfen, aus den Fehlern und Erfolgen anderer Projekte zu lernen“, schrieb etwa die Nichtregierungsorganisation AlgorithmWatch.
Ein solches Transparenzregister hatten die Niederlande bereits vor Jahren eingeführt. Dort war es zur sogenannten Kindergeldaffäre gekommen, bei der mit diskriminierenden Kriterien gefütterte Algorithmen tausende Familien ungerechtfertigt in den finanziellen Ruin getrieben haben. Unter anderem soll das Transparenzregister künftig dafür sorgen, dass automatisierte Entscheidungssysteme nicht völlige Black Boxen bleiben.
„Das BMI hat unser Konzept umgedreht“
Genau das leiste der KI-Marktplatz in seiner derzeitigen Form jedoch nicht, sagt Kilian Vieth-Ditlmann von AlgorithmWatch. Nicht zuletzt am Namen lasse sich ablesen, dass die Hauptzielsetzung weniger das Schaffen von Transparenz gewesen sei, sondern dass die Datenbank eher als „Schaufenster für die Bundesverwaltung“ dienen soll, sagt Vieth-Ditlmann.
Grundsätzlich handele es sich um einen guten ersten Schritt, allerdings „hat das BMI unser Konzept umgedreht“, so Vieth-Ditlmann. Gesteigerte Effizienz etwa, die das BMI wiederholt hervorhebt, könne ein positives Nebenprodukt einer echten Transparenzdatenbank sein, aber nicht das Hauptziel. Transparenz gegenüber der Bevölkerung stehe beim KI-Marktplatz „offenbar nicht an erster Stelle“, sagt der KI-Experte.
Problematisch sei zudem, dass die Veröffentlichung von Projekten auf dem Marktplatz bis auf Weiteres freiwillig sei. Im Unterschied zu parlamentarischen Anfragen, die vollständig beantwortet werden müssten, gebe MaKi nur ein „lückenhaftes Bild“ wieder. Ohne gesetzliche Grundlage ließen sich die Daten kaum aktuell halten, auch fehle eine Qualitätskontrolle und Aufsicht. „Es braucht Verbindlichkeit“, fordert Vieth-Ditlmann – auch von den Ländern.
Zwar will der IT-Planungsrat, der als politisches Steuerungsgremium für die Digitalisierung der öffentlichen Verwaltung den Prozess begleiten soll, auch die Länder und Kommunen einbinden. Um das rechtlich sauber umzusetzen, wäre aber wohl ein eigener Staatsvertrag zwischen Bund und Ländern notwendig, sagt Vieth-Ditlmann. Eine Regelung brauche es auch für als geheim eingestufte Systeme. Mit Verweis auf die nationale Sicherheit blieben diese sonst ausgeklammert, obwohl gerade in diesem Bereich mitunter die größten Gefahren für Grundrechte lauern.
Von den Niederlanden lernen
Vor allem aber müsse der Marktplatz seine Ausrichtung ändern und sich dabei vom niederländischen Ansatz inspirieren lassen. Nicht nur werde dort deutlich besser erklärt, was einzelne KI-Anwendungen tatsächlich machen, auch potenzielle Folgen für Grundrechte hängt das niederländische Transparenzregister sichtlich höher.
Angelehnt an die KI-Verordnung der EU weist MaKi auch eine Risikokategorie auf. Darin findet sich jedoch nur eine einzige Anwendung, der ein „Hohes Risiko“ zugeschrieben wird – ein KI-System, welches die Sicherheit von Tunneln und Tunnelleitzentralen (KITT) verbessern soll.
Von der umstrittenen Dialektanalyse, mit der das Bundesamt für Migration und Flüchtlinge (BAMF) automatisiert Hinweise auf die mutmaßliche Muttersprache einer Person finden will, geht laut MaKi hingegen nur ein „Begrenztes Risiko“ aus. Dabei räumt selbst das BAMF ein, weit entfernt von Zuverlässigkeit zu sein. Beispielsweise hatte das Amt im ersten Halbjahr 2022 knapp 8.000 solcher Dialektanalysen durchgeführt, in rund 1.500 Fällen die Sprache jedoch nicht erfolgreich erkannt. Das Ergebnis dieser Analyse fließt in die Entscheidung über die Schicksale von Menschen ein – und Fehler können für die Betroffenen gravierende Folgen haben.
Zur Quelle wechseln
Zur CC-Lizenz für diesen Artikel
Author: Tomas Rudl
#intelligenz #kunstliche #marktplatz #statt #transparenzregister
Philo Sophies
Dirk Bachhausen
Philo Sophies
WDR (inoffiziell)
Niedersachsen Nachrichten
Danny Steinbrecher
Research Institute
