Der #Koalitionsvertrag 2021 #SPD #Grüne #FDP enthält ein #Ziel für #Bürgerrecht und #Sicherheit:

»Flächendeckende #Videoüberwachung und den Einsatz von #biometrischer Erfassung zu Überwachungszwecken lehnen wir ab. Das #Recht auf #Anonymität sowohl im öffentlichen Raum als auch im #Internet ist zu gewährleisten.«

Das aktuelle @bmi #Sicherheitspaket enthält genau das #Gegenteil.

@GrueneBundestag @MisbahKhan @AussenMa @TabeaRoessner Mitglieder von #BÜNDNIS_90_DIE_GRÜNEN
https://antraege.gruene.de/50bdk/Absage-an-jede-Form-anlassloser-Massenspeicherung-von-Burger-innendate-46956

Die #spd #karlsruhe hat auf mein drängen heute eine Beschlusslage für ein #verbot der #vorratsdatenspeicherung und #biometrischer #überwachung geschaffen.

Hoffen wir dass sich viele Unterbezirke und Landesverbände dem anschließen und gehörig Druck auf #faeser und die BuReg entsteht.

#MailLeaks nach meiner Beschwerde zu #biometrischer #Videoüberwachung:
Ohne Sexismus und Altersdiskriminierung gehts einfach nicht.

"mit großer Empörung habe ich gerade deinen Bericht in der Tag24 lesen müssen.
Ich und viele andere Personen finden nämlich Videoüberwachung richtig gut! Und weist Du auch warum, weil wir friedliche, schaffende Bürger sind und rein gar nix zu verbergen haben. Uns Normalbürgern ist nämlich Sicherheit sehr wichtig. Und gerade in Dresden, wo vor allem die Ausländerkriminalität täglich steigt, wünschen wir uns viel mehr Videoüberwachung. Kann das dein kleines Köpfchen verstehen? Wenn nein lasse bitte lieber die Finger von Politik, denn kleine, naive Mädels rennen hier in der Stadt mit lustigen Plakaten schon genug herum!!"

Dieser Artikel stammt von Netzpolitik.org.

Die neue KI-Verordnung soll invasive Überwachung in der EU ermöglichen. Abgeordnete der Regierungsparteien wollen deshalb strengere Regeln für Deutschland, etwa ein Verbot von Emotions- und Gesichtserkennung in Echtzeit.

Die Ampel-Parteien wollen auf Deutschland-Ebene teils nachbessern, was bei der KI-Verordnung nicht gelungen ist. So will die SPD im Bundestag biometrische Echtzeit-Identifizierung und Emotionserkennung verbieten, schreibt der Abgeordnete Parsa Marvi auf Anfrage von netzpolitik.org. Er begleitet die KI-Verordnung für die SPD-Fraktion im Digitalausschuss.

Die Grünen bekräftigen das, drücken sich aber weniger konkret aus. Der Abgeordnete Tobias Bacherle, Obmann im Digitalausschuss, schreibt: „Als Grüne werden wir uns entsprechend für Regelungen einsetzen, die einen effektiven Grundrechtsschutz sicherstellen“. Die FDP im Bundestag setzt einen drauf und will KI-gestützte Biometrie nicht nur in Echtzeit, sondern auch im Nachhinein unterbinden.

Hintergrund ist die neue KI-Verordnung (AI Act) der Europäischen Union. Im Trilog haben sich Parlament, Rat und Kommission jüngst auf einen gemeinsamen Text geeinigt, der Rat hat den Kompromiss schon bestätigt. Das EU-Parlament wollte Grundrechte besser schützen, konnte sich aber nicht durchsetzen. So gab es auch nach der Trilog-Einigung Streit, über die quälendsten Fragen haben wir Ende Januar berichtet.

Jetzt sind die Mitgliedstaaten wieder am Zug: Sie können Lücken der Verordnung stopfen. Diese Regeln gelten dann zwar nicht für alle in der EU, aber immerhin für die jeweils eigenen Bürger*innen. Wir haben uns deshalb bei den Ampel-Parteien, der Union und der parlamentarischen Gruppe der Linken erkundigt, wie sie die größten Schmerzpunkte durch nationale Gesetze lösen wollen.

Klares Nein zu biometrischer Echtzeit-Überwachung

Menschen lassen sich durch ihre körperlichen Merkmale eindeutig identifizieren, etwa mit Hilfe von Überwachungskameras. Die bekannteste Methode ist Gesichtserkennung, es gibt aber auch andere Methoden, beispielsweise die Gangart, die wir einmal als Skelettkontrolle bezeichnet haben. Der Einsatz solcher Technologien kann das Ende von Anonymität in der Öffentlichkeit bedeuten und Massenüberwachung möglich machen. Durch Erkennungsfehler müssten Menschen, nach denen nicht einmal gesucht wird, mit einer irrtümlichen Verhaftung rechnen.

Die KI-Verordnung erlaubt den Einsatz der Technologie unter bestimmten Voraussetzungen sogar in Echtzeit. Das heißt, Überwachungskameras könnten die Gesichter gefilmter Menschen sofort mit einer Datenbank abgleichen und unmittelbar Alarm schlagen. Die SPD-Fraktion ist dagegen. Aus dem „bisher löchrigen Verbot von Echtzeit-Identifizierung“ soll „ein echtes Verbot“ werden, schreibt Parsa Marvi. „Nur so können wir unserem Anspruch aus dem Koalitionsvertrag entsprechen.“

Zur Erinnerung, im Koalitionsvertrag der Ampel steht: „Flächendeckende Videoüberwachung und den Einsatz von biometrischer Erfassung zu Überwachungszwecken lehnen wir ab. Das Recht auf Anonymität sowohl im öffentlichen Raum als auch im Internet ist zu gewährleisten.“

Der FDP-Abgeordnete Maximilian Funke-Kaiser verweist ebenso auf den Koalitionsvertrag. Er schreibt, es sei erforderlich, den „Einsatz von KI-gestützter Biometrie in Deutschland bundesgesetzlich so weit wie möglich“ zu unterbinden.

Auch für Tobias Bacherle (Grüne) gebe der Koalitionsvertrag „die Richtung klar vor“. Die Möglichkeit, strengere Schutzstandards zu schaffen, gelte es nun „konsequent zu nutzen“. Bacherle findet, Systeme mit Echtzeitüberwachung sollten gar nicht erst installiert werden, auch nicht mit Richtervorbehalt.

Warum sich solche Positionen nicht auf EU-Ebene durchgesetzt haben? „Bei diesen Fragen war der Widerstand aller europäischen Innenministerien und ihr Druck auf das Europäische Parlament gewaltig“, klagt Bacherle. In vielen Innenministerien werde schon seit Langem laut von Überwachung geträumt. „Und genau diese Haltung wurde versucht, durchzusetzen.“

Ja zu biometrischer Überwachung im Nachhinein

Üppige Rechte gewährt die KI-Verordnung bei der biometrischen Überwachung von Menschen im Nachhinein („retrograd“), etwa mit Hilfe archivierter Kamerabilder. Aufnahmen von Menschen dürfen demnach biometrisch gescannt werden, sobald Ermittler*innen sie einer Straftat verdächtigen. Um sie erstmals zu identifizieren, braucht es nicht einmal eine richterliche Genehmigung.

SPD und Grüne wollen das nicht verbieten, aber strenger machen. Der Grünen-Abgeordnete Bacherle schreibt uns, nachträgliche biometrische Identifikation soll „durch einen Richtervorbehalt und auf schwere Straftaten beschränkt sein“. Der SPD-Abgeordnete Marvi will einen „deutlich engeren Rahmen“ und eine klare Abgrenzung zum Einsatz in Echtzeit – um zu „verhindern, dass die Echtzeit-Identifizierung durch die Hintertür möglich wird“. Der Hintergrund: Aus der KI-Verordnung geht zunächst nicht klar hervor, wie viel Zeit eigentlich vergangen sein muss, bis eine biometrische Überwachung nicht mehr in Echtzeit erfolgt und somit erheblich weniger streng reguliert ist.

Die FDP im Bundestag will an dieser Stelle mehr als ihre Koalitionspartner. Um die Anonymität im öffentlichen Raum zu gewährleisten, fordert Funke-Kaiser eine Nachschärfung in der Strafprozessordnung, die auch die „rückwirkende Anwendung“ von KI-gestützter Biometrie einschließt.

Sein Parteikollege Maximilian Mordhorst schreibt uns: „Mir ist bewusst, dass es Situationen gibt, in denen nachträgliche biometrische Identifikation entscheidend sein kann. Zugleich dürfen wir aber die Sicherheit nicht über die Freiheit stellen.“ Gesichtserkennung im öffentlichen Raum sei ein schwerer Einschnitt in die Bürgerrechte. „Die Regelungen eröffnen den Raum für mehr Überwachung und weitere Eingriffe. Das ist inakzeptabel.“

SPD-Fraktion für Verbot von Emotionserkennung

Uneins sind sich die Fraktionen der Ampelparteien bei Emotionserkennung. Diese Technologie soll Aussagen darüber treffen können, wie sich Menschen fühlen, etwa anhand von Regungen im Gesicht. SPD-Abgeordneter Marvi warnt: „In der Wissenschaft ist höchst umstritten, ob sich von der Mimik Rückschlüsse auf Emotionen ziehen lassen.“ Außerdem drohe Diskriminierung, da die Systeme bei „Frauen und PoC besonders schlecht abschneiden“. Marvi schreibt: „Unser Votum also: ein klares, bereichsübergreifendes Verbot der Emotionserkennung.“

Bacherle von den Grünen sieht das weniger streng. Medizinische Ausnahmeregeln bei der Emotionserkennung halte er „für vertretbar, solange diese klar begründet werden können und sichergestellt ist, dass sich der Einsatz hierauf beschränkt“.

FDP-Abgeordneter Mordhorst sieht die Zulassung von Emotionserkennung in der KI-Verordnung „kritisch“, äußert sich auf Anfrage aber nicht zu einem Verbot.

Mehr Transparenz bei KI-basierter Migrationskontrolle gefordert

Auf den ersten Blick schafft die KI-Verordnung viel Transparenz, denn wer riskante KI-Systeme einsetzt, muss das in einer öffentlichen Datenbank registrieren. Es gibt jedoch Ausnahmen, ausgerechnet für den sensiblen Bereich „Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement“. Konkretes Beispiel: Die EU hatte den Einsatz von Lügendetektoren an der Außengrenze getestet, um zu prüfen, ob Einreisende die Wahrheit sagen; dabei ist die Wirksamkeit der Technologie fraglich. Entsprechende Behörden sollen für ihre KI-Systeme laut Verordnung einen nicht-öffentlichen Bereich der Datenbank nutzen dürfen. Eine unabhängige öffentliche Kontrolle ist damit nicht möglich.

Grünen-Politiker Bacherle bezeichnet die Ausnahmen für Grenzkontrollen als „schmerzhaftes Zugeständnis an die Innenministerien“. SPD-Politiker Marvi gibt sich nicht geschlagen und beschreibt einen Kompromiss. Eine öffentliche Datenbank fordert er zwar nicht, aber immerhin den gezielten Zugang für Interessierte. Marvi schreibt: „Einzelne Betroffene oder solche, die sich über eine Interessengruppe vertreten lassen, könnte die Möglichkeit gegeben werden, bei strittigen Einsätzen oder Ergebnissen von KI-Anwendungen Informationen zu ihrem speziellen Fall anzufragen.“ Neben der EU-Lösung befürworte die SPD-Fraktion außerdem ein nationales Transparenzregister.

Die angefragten FDP-Abgeordneten haben sich nicht näher zu mehr Transparenz bei KI-basierter Migrationskontrolle geäußert.

Opposition: „Ampel hat sichtbar versagt“

Die Abgeordnete Anke Domscheit-Berg ist digitalpolitische Sprecherin der Linken im Bundestag. Sie lehnt Emotionserkennung ebenso ab wie biometrische Erkennungssysteme in öffentlich zugänglichen Räumen, sowohl in Echtzeit als auch im Nachhinein. „Polizei und Geheimdienste verfügen bereits über ausreichend viele Informationen zur Erfüllung ihrer Aufgaben“, schreibt sie auf Anfrage von netzpolitik.org. Domscheit-Berg sieht durch biometrische Identifikation dieser Art eine ganze Reihe von Grundrechten in Gefahr, unter anderem Privatsphäre, Datenschutz, Nichtdiskriminierung sowie Versammlungs- und Vereinigungsfreiheit.

Die Ampel, schreibt Domscheit-Berg, habe bei den EU-Verhandlungen „für jeden sichtbar versagt“ und ihr Koalitionsversprechen gebrochen, sich gegen flächendeckende biometrische Überwachung im öffentlichen Raum einzusetzen.

Die Digitalpolitikerin fordert – ähnlich wie SPD-Abgeordneter Mavi – ein nationales Transparenzregister für staatlich eingesetzte KI-Systeme. Bürger*innen hätten hier ein Recht auf Information, insbesondere wenn es um grundrechtssensible Bereiche geht. Ein Register könne dazu beitragen, Missbrauch und unangemessene Verwendung zu verhindern.

Wir haben auch zwei Unions-Abgeordnete aus dem Digitalausschuss um eine Einschätzung gebeten, bislang ohne Rückmeldung. Falls wir eine Antwort erhalten, werden wir sie ergänzen.

Allzu viel Zeit für etwaige Gesetzentwürfe gibt es nicht, immerhin ist die nächste Bundestagswahl bereits im September kommenden Jahres.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Zur Quelle wechseln
Zur CC-Lizenz für diesen Artikel

Author: Sebastian Meineck

https://www.bachhausen.de/luecken-der-ki-verordnung-ampel-will-verbot-biometrischer-echtzeit-ueberwachung/

#ampel #biometrischer #echtzeit #lucken #uberwachung #verbot #verordnung

Dieser Artikel stammt von Netzpolitik.org.

Die KI-Verordnung macht den Weg frei für biometrische Gesichtserkennung in der EU. Auch an vielen anderen Stellen bietet sie große Schlupflöcher für Behörden und Unternehmen. Das EU-Parlament wollte Grundrechte besser schützen – und hat dem Kompromiss nun doch zugestimmt.

Mit ihrer KI-Verordnung will die Europäische Union in Zukunft den Maßstab für Anwendungen sogenannter Künstlicher Intelligenz setzen. Das EU-Parlament hat heute mit großer Mehrheit den Text für das Gesetz gebilligt. Bei der Abstimmung stimmten 523 Abgeordneten für das Gesetz, 46 dagegen. Den Kompromiss hatten sie bereits vergangenen Dezember nach langen und teils dramatischen Gesprächen mit den EU-Mitgliedstaaten ausgehandelt. Damit ist der Weg frei, damit das Gesetz noch im Laufe des Jahres in Kraft treten kann.

Mit dem Ja des Parlaments endet das Gezerre um ein Gesetz, das als eines der wichtigsten der Legislaturperiode galt. Drei Jahre lang hat es Kommission, Parlament und Rat beschäftigt. Das Ringen um die finalen Regeln wurde dabei zu einer der größten Lobbyschlachten, die in Brüssel je ausgetragen wurden. Tech-Riesen wie Google und Microsoft investierten Millionen, um ihre Interessen zu schützen.

Das Gesetz soll Regeln festschreiben für diejenigen, die KI-Technologien entwickeln und einsetzen, egal ob Unternehmen oder Behörden. Je riskanter eine Anwendung, so die Logik, desto strikter die Vorgaben, etwa für die Qualität der Daten, die Dokumentation oder für Risikobewertungen, wie vor einem Einsatz gemacht werden müssen. Bestimmte Anwendungen sollen ganz verboten werden, etwa Social Scoring.

Streit um Basismodelle

Der erste Entwurf der Kommission im April 2021 erregte noch eher wenig Aufmerksamkeit. Anfang 2023 brach dann der Hype um generative KI los – und plötzlich standen zusammen mit den verblüffenden Fähigkeiten von ChatGPT und Bildgeneratoren wie Midjourney auch die Details der KI-Verordnung im globalen Rampenlicht.

Parlamentarier:innen versuchten, der neuen Entwicklung noch hinterher zu hechten, obwohl die Arbeit am Gesetz zu weit fortgeschritten war. Dafür wollten sie das Gesetz um strenge Regeln auch für sogenannte Basis-Modelle ergänzen. Das sind KI-Systeme wie etwa das Sprachmodell GPT-4, die für verschiedenste Zwecke eingesetzt werden können.

Im November kam es deswegen in den Trilog-Gesprächen zu offenem Streit. Vor allem die Schwergewichte im Rat Deutschland und Frankreich wollten verhindern, dass die Verordnung auch Basismodelle regelt. Start-ups wie Mistral in Frankreich oder Aleph Alpha in Deutschland arbeiten ebenfalls an solchen Modellen, sie hatten darauf gedrängt, das Basismodelle ausgenommen werden.

Fauler Kompromiss nach langen Verhandlungen

Aber nicht nur wegen der Basismodelle wurden die finalen Trilog-Gespräche im Dezember zu einer Hängepartie. Die Verordnung berührt zentrale Fragen zu Grund- und Freiheitsrechten in der EU: Etwa die, ob und wann biometrische Überwachung zugelassen wird, in welchen Lebensbereichen überhaupt automatisiert entschieden werden darf, oder wie viele Ausnahmen Staaten mit dem Pauschalargument „nationale Sicherheit“ für sich in Anspruch nehmen dürfen.

Nach mehr als drei Tagen Marathon-Verhandlung, teils mehr als 22 Stunden am Stück, stand dann vor Weihnachten doch noch ein Kompromiss. Bürgerrechtsorganisationen wie etwa EDRi warnten schon damals, dass die Freude darüber verfrüht sei. Die Einigung war mündlich passiert, den finalen Text musste die spanische Ratspräsidentschaft, die die Einigung forciert hatte, noch erstellen.

Als die hunderten Seiten Kompromisstext dann im Februar vorlagen, wurde klar, wie viele Lücken offen bleiben werden. Parlamentarier:innen, die selbst an den Verhandlungen beteiligt waren, sagten danach, sie hätten die angeblich getroffene Trilog-Einigung kaum wiedererkannt, als sie später vor ihnen lag. „Wir wurden über den Tisch gezogen“, hieß es aus dem Umfeld der Verhandlungsdelegation.

Die sieben quälendsten Fragen zur KI-Verordnung

Kein Verbot für biometrische Überwachung und Lügendetektoren

Vor allem in den Regeln zu biometrischer Überwachung ist von den einst starken Forderungen des Parlaments kaum etwas übrig geblieben. Die KI-Verordnung bringt kein Verbot, nicht einmal besonders strenge Einschränkungen für den Einsatz biometrischer Überwachung.

EU-Staaten werden also künftig aus vielen Gründen Menschen überwachen und anhand ihrer körperlichen Merkmale identifizieren dürfen, zum Beispiel mit Hilfe öffentlicher Kameras. Das ist selbst in Echtzeit erlaubt und auch dann, wenn nur die Annahme besteht, dass etwas Schlimmes passieren könnte. Die Mitgliedsstaaten konnten sich in diesem Punkt mit ihrer Wunschliste offenbar fast vollständig durchsetzen.

Auch Menschen auf der Flucht können von der KI-Verordnung kaum Schutz erwarten. Die wenigen Einschränkungen für Gesichtserkennung im öffentlichen Raum gelten etwa ausdrücklich nicht für Grenzkontrollen. Der Einsatz von umstrittenen Technologien wie Emotionserkennung ist ebenfalls weiterhin erlaubt, Betroffene könnten in Zukunft mit Lügendetektoren an den Grenzübergängen überprüft werden, wie die EU sie bereits in einem Pilotprojekt getestet hat. Und auch die Transparenzverpflichtungen im Gesetz gelten nicht für die Bereiche „Strafverfolgung, Migration, Grenzkontrolle oder Asyl“.

Selbst mit diesen Zugeständnissen war noch lange unklar, ob das Gesetz nicht womöglich noch am Widerstand von Frankreich und Deutschland scheitern könnte. Aus beiden Ländern war weiterhin Unmut zu hören. Mit der Zustimmung des Rates Anfang Februar war diese Hürde genommen.

Kurz darauf stimmten auch die beiden Parlamentsausschpsse für bürgerliche Freiheiten, Justiz und Inneres (LIBE) und Binnenmarkt (IMCO) mit großer Mehrheit für den Kompromiss. Sie hatten bei der Arbeit am Gesetz die Führungsrolle. Ihre Zustimmung war ein starker Signal dafür, dass auch die absolute Mehrheit der Abgeordneten im Plenum heute für den Kompromiss stimmen würden.

Dass die Abstimmung schon heute angesetzt war und nicht, wie zunächst geplant, erst im April, hatte im Vorfeld für Verwirrung gesorgt. Der Grund dafür liegt wohl in den Details der EU-Arbeitsprozesse: Gesetzestexte müssen juristisch überarbeitet und in die 24 Amtsprachen der Union übersetzt werden. Dafür scheint hier die Zeit nicht gereicht zu haben, die Abgeordneten stimmten also nach wie vor über einen vorläufigen Text ab. Die endgültige Version soll dann im April nur noch bekannt gegeben werden – voraussichtlich ohne erneute Abstimmung.

Was jetzt folgt

Die KI-Verordnung kann damit noch vor den EU-Wahlen im Sommer in Kraft treten. Die meisten Regeln werden nach zwei Jahre greifen, lediglich die Verbote gelten bereits nach sechs Monaten – und damit womöglich bereits dieses Jahr.

Die Hoffnungen für bessere Gesetzgebung verlagern sich derweil auf die Mitgliedstaaten. Sie haben die Möglichkeit, auf nationaler Ebene strengere Regeln zu erlassen als die Verordnung vorsieht, etwa für die biometrische Überwachung. In Deutschland haben die Ampel-Parteien bereits angekündigt, zumindest eine Überwachung in Echtzeit nicht zu wollen.

Nachbesserungen fordert jetzt auch AlgorithmWatch und verweist auf die Versprechen, die die Bundesregierung in ihrem Koalitionsvertrag gemacht hat. Die Organisation kritisiert auch, dass gerade für Strafverfolgungs- und Migrationsbehörden keine öffentliche Transparenz gelten soll, wenn sie riskante KI-Systeme einsetzen. Gerade in diesen Bereichen herrsche ein starkes Machtgefälle, Öffentlichkeit sei hier eine wesentliche Voraussetzung demokratischer Kontrolle.

Gegen den Entwurf gestimmt hatten die vier Abgeordneten der Piratenpartei, einige parteilose Abgeordnete und große Teile der Linken-Fraktion. Deren Abgeordnete Cornelia Ernst bedauert, dass das Parlament in den Verhandlungen essentiell wichtige Elemente nicht durchsetzen konnte. Das Verbot von Echtzeit-Gesichtserkennung im öffentlichem Raum sei durch eine lange Liste von Ausnahmen „praktisch gekippt“, Emotionserkennung und vorhersagende Polizeiarbeit blieben erlaubt und es gebe keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext – eine verpasste Chance.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Zur Quelle wechseln
Zur CC-Lizenz für diesen Artikel

Author: Chris Köver

https://www.bachhausen.de/trotz-biometrischer-ueberwachung-eu-parlament-macht-weg-frei-fuer-ki-verordnung/

#biometrischer #macht #parlament #trotz #uberwachung #verordnung