Sonja LemkeGestern hatten wir die Anhörung zur Umsetzung der KI-Verordnung. (Danke an @algorithmwatch für ihre gute Stellungnahme)
An der #kiverordnung lassen sich noch viele Sachen verbessern, aber für die Umsetzung sind jetzt folgende Punkte wichtig ⬇️
🔴 Es braucht ein verpflichtendes KI-Transparenzregister für alle Behörden. Überall wo in der öffentlichen Verwaltung KI-Systeme eingesetzt werden, muss es für alle transparent sein.
Unsere Anfragen zeigen, dass es in den Behörden im Moment sehr unterschiedlich gehandhabt wird und es keine einheitliche (oder überhaupt korrekte) Risikoabschätzung gibt und in den meisten Fällen auch keinerlei Nachhaltigkeitsanalysen.
🔴 Bei Hochrisiko-KI-Systemen muss die Verantwortlichkeit der bei Bundesdatenschutzbeauftragten liegen und nicht bei der Bundesnetzagentur. Hochrisiko-KI-Systeme sind Systeme, die z.B. bei den Sicherheitsbehörden oder im Grenzschutz eingesetzt wird. Die Aufsichtsbehörde ist also direkt zuständig für die Bundesregierung. Die Bundesnetzagentur ist dafür nicht unabhängig genug, denn z.B. deren Präsident*innen werden direkt von ihr benannt.
🔴 Es braucht genug Stellen für eine gut funktionierende Aufsicht. In dem Umsetzungsgesetz sind 43 Stellen für die BNetzA vorgesehen, seriöse Schätzungen gehen aber von einem Bedarf von mindestens 129 aus.
🔴 Es braucht einen KI-Beirat, der die Umsetzung der KI-Verordnung begleitet und weiterentwickelt. Da muss vor allem die Zivilgesellschaft vertreten sein.
Die komplette Anhörung könnt ihr euch hier geben⬇️
https://www.bundestag.de/ausschuesse/a23_digitales_staatsmodernisierung/anhoerungen/1151008-1151008
Deutscher Bundestag - Anhörung zum Gesetzesentwurf zur Durchführung der Verordnung über KI
Gesetzentwurf der Bundesregierung „Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisie...