Guten Morgen Fediverse! Heute gibt es etwas Spannendes im Europäischen Parlament: Innenkommissar Magnus Brunner ist im LIBE-Ausschuss zu Gast und wird mit den Abgeordneten vermutlich über die nächsten Schritte zum Thema #Chatkontrolle sprechen.
Das wird spannend mit Blick auf die kommenden Trilog-Verhandlungen: wird die EU-Kommission nach der Einigung im Rat von der eigenen, radikalen Position abrücken? Wie werden Abgeordnete auf den Vorschlag einer freiwilligen Chatkontrolle reagieren?
Ein 🧵:
Das Treffen heute hat Potential für Streit: die freiwillige #Chatkontrolle wurde vom Europäischen Parlament 2021 als Ausnahmeregelung erlaubt & 2024 verlängert. In beiden Fällen forderten die Abgeordneten: die EU-Kommission muss Evidenz vorlegen, dass die Maßnahme funktioniert & verhältnismäßig ist. (Spoiler: ist sie nicht)
Letztes Mal hat die EU-Kommission einen unvollständigen Bericht vorgelegt. Auch dieses Mal hat sie ihre (gesetzlich vorgeschriebenen) Hausaufgaben nicht ordentlich erledigt.
Eigentlich hätte die EU-Kommission den Bericht schon am 3. September vorlegen müssen. Also lange bevor im Rat der EU nun eine Position beschlossen wurde, die eine permanente Verlängerung der freiwilligen #Chatkontrolle vorsieht. Der Bericht wurde aber bis einen Tag nach der Abstimmung zurückgehalten & erst letzten Donnerstag veröffentlicht:
https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=COM:2025:740:FIN
Fast drei Monate Verzögerung. Warum? Wer weiß. Vielleicht weil der Bericht ein vernichtend schlechtes Bild auf die Maßnahme wirft.
Zur Erinnerung: eigentlich gilt in der EU die Grundrechtecharta mit einem Recht auf Privatsphäre in Artikel 7:
> "Jede Person hat das Recht auf Achtung ihres Privat- und Familienlebens, ihrer Wohnung sowie ihrer Kommunikation."
Darum gibt es seit 2002 auch die europäische ePrivacy-Richtlinie, wonach Unternehmen ihre User*innen nicht einfach überwachen dürfen. Das ist der Normalzustand, welcher durch die freiwillige #Chatkontrolle seit 2021 temporär ausgesetzt wird und über den verhandelt wird.
Was steht nun drin?
Das Wichtigste: Die EU-Kommission legt unvollständige Daten vor und sagt selbst, dass sie damit die Verhältnismäßigkeit nicht belegen kann.
Das Dreisteste: Die EU-Kommission verweigert ihren gesetzlichen Auftrag und schlussfolgert einfach, dass sie keinen Nachweis über die fehlende Verhältnismäßigkeit der freiwilligen #Chatkontrolle habe.
Das entspricht nicht dem, was das Europäische Parlament verlangt hat. Es wird spannend, ob die Abgeordneten heute darauf eingehen.
Die Details:
Daten zur Nutzung der freiwilligen #Chatkontrolle hat die EU-Kommission von Google, LinkedIn, Meta, Microsoft und Yubo. Die meisten Fälle werden von Meta gemeldet.
Das Scannen gliedert sich nach drei Bereichen: bekannte Missbrauchsdarstellungen, bisher unbekannte ("neue") Darstellungen und Grooming (Anbahnungsversuche).
Bei den verwendeten Systemen taucht auch ein alter Bekannter wieder auf: #Safer von #Thorn. Ihr erinnert euch?
Ashton Kutchers Organisation Thorn war von Anfang an der Entstehung der Chatkontrolle-Verordnung beteiligt. Neue Dokumente zeigen, mit welchen Aussagen Thorn die EU-Kommission lobbyiert hat - unter anderem verwies die Organisation auch auf die Möglichkeiten der Chatkontrolle abseits des Kampfes gegen Kindesmissbrauchs.
Die Unternehmen berichten teilweise horrende Fehlerquoten bei der Anwendung der freiwilligen #Chatkontrolle. Hier geht es um die falsch-positiv Rate, also die Zahl der Fälle, in denen fälschlicherweise Menschen die Verbreitung von Darstellungen sexualisierter Gewalt an Kindern oder Anbahnungsversuche an diese unterstellt wird - also schwerwiegendste Verbrechen.
Diese Fehlerrate geht bis zu 20% (!) bei der „KI“-Erkennung von bisher unbekannten Darstellungen und Grooming.
Die geringste falsch-positiv Rate berichtet Meta mit 0.12%. Aber Achtung: die Berechnung ist irreführend. Meta vergleicht die Gesamtanzahl an Erkennungen via freiwilliger #Chatkontrolle mit später wieder revidierten Entscheidungen. Nicht eingerechnet sind Falscherkennungen, die nicht angefochten wurden.
Nehmen wir die berichtete Rate erfolgreicher Anfechtungen durch User*innen zu Grunde, dann steigt die Fehlerrate schon auf 2,3%. Bei 1.5 Millionen Meldungen in der EU insgesamt. Das ist viel.
Auch sonst wirft der Bericht kein gutes Licht auf die freiwillige #Chatkontrolle. Die Daten aus den Mitgliedsstaaten sind unvollständig und nicht miteinander vergleichbar. Viele basieren auf den Meldungen von NCMEC in den USA. Und:
Laut Bericht können die Mitgliedsstaaten keinen systematischen Zusammenhang zwischen den Meldungen durch die Überwachungsmaßnahme und später eingeleiteten Ermittlungen bzw. Verurteilungen herstellen. Es gibt also überhaupt keine Evidenz für die Wirksamkeit!
Keine guten Vorzeichen für die freiwillige #Chatkontrolle also. Und die EU-Kommission hat den gesetzlichen Auftrag, den das Europäische Parlament ihr erteilt hat, nicht erfüllt. Mal schauen, ob Innenkommissar Magnus Brunner und die Abgeordneten heute darauf eingehen werden. Und ob wir einen Vorgeschmack, auf die kommenden Trilogverhandlungen bekommen werden.
Die Sitzung wird hier im Livestream öffentlich übertragen werden. 10:00 soll der Tagesordnungspunkt los gehen:
https://multimedia.europarl.europa.eu/en/libe-committee-meeting_20251204-0900-COMMITTEE-LIBE_vd
The multimedia platform of the European Parliament is the official public available repository of the media production of the Secretariat of the European Parliament, managed by the Directorate-General for Communication (DG COMM).
Das Wetter in Brüssel ist heute ausnahmsweise gut. Die Sonne scheint auf das Europäische Parlament.
Stellvertretend für die @digiges darf ich als Interessenvertreter für die Zivilgesellschaft auch in das Europäische Parlament.
Also, erst durch die Sicherheitsschleuse und los geht es. Auf dem Weg in den Ausschuss begegne ich noch dem Mitarbeiter einer Abgeordneten. Er ist auch schon gespannt auf die kommende Aussprache.
#Chatkontrolle
The EU Commission should not skip public consultations, impact assessments, or other steps of ‘good regulation’ by simply citing the vague ‘urgency’ of a legislative proposal, the European Ombudswoman Teresa Anjinho found in an inquiry on Wednesday.
Jetzt geht es los. Der Ausschussvorsitzende Javier Zarzalejos leitet den Tagesordnungspunkt ein.
Zum Einstieg hat EU-Innenkommissar Magnus Brunner das Wort. Sowohl Zarzalejos und Brunner erklären, dass es zeitnah eine dauerhafte Lösung für das Thema brauche.
Brunner begrüßt das Ergebnis im Rat, welcher etwa zwei Jahre nach dem Europäischen Parlament nun eine eigene Position beschlossen hat.
Brunner bestätigt (erstmals öffentlich?) offiziell, dass die Trilogverhandlungen zur #Chatkontrolle nächsten Dienstag am 9. Dezember beginnen werden.
Brunner spricht den letzte Woche vorgelegten Bericht zur freiwilligen #Chatkontrolle an. Entgegen der im Bericht fehlenden Datengrundlage bezeichnet er diesen als umfassend und deutet ihn als unterstützend für die Pläne, eine permanente Überwachungsbefugnis für Unternehmen einzuführen.
Er räumt aber auch ein, dass es noch an der Datenerhebung mangele.
Er verweist auf die Zahl der gemeldeten Erkennungen und deutet das als Erfolg. Über die Falscherkennungen sagt er nichts.
Konstantin Macher
joerg