Patrick BreyerJun 16, 2024

🇩🇪Die Zahl der falschen Verdächtigungen aufgrund der freiwilligen #Chatkontrolle 1.0 ist massiv gestiegen, berichtet der SPIEGEL: https://www.spiegel.de/netzwelt/netzpolitik/chatkontrolle-zahl-der-falschmeldungen-zu-kindesmisshandlung-massiv-gestiegen-a-a746b118-82e7-4560-8ba4-45f02489768c

Trotzdem wollen die EU-Regierungen die #Chatkontrolle Mittwoch für alle Anbieter verpflichtend machen - wehrt euch!

Geplante Chat-Überwachung: Deutlich mehr Falschmeldungen zu Kindesmisshandlung

Zehntausende Hinweise auf online verbreitete Bilder von Kindesmissbrauch gehen jährlich bei deutschen Behörden ein. Doch die Zahl der falschen Verdächtigungen ist nach SPIEGEL-Informationen massiv gestiegen.

DER SPIEGEL
Show threadPatrick Breyer

🇬🇧The number of false reports following the voluntary #ChatControl 1.0 scanning has risen massively, reports Der SPIEGEL (German): https://www.spiegel.de/netzwelt/netzpolitik/chatkontrolle-zahl-der-falschmeldungen-zu-kindesmisshandlung-massiv-gestiegen-a-a746b118-82e7-4560-8ba4-45f02489768c

Still EU governments want to make mass #ChatControl scanning mandatory for ALL providers on Wednesday - #StopScanningMe!

Geplante Chat-Überwachung: Deutlich mehr Falschmeldungen zu Kindesmisshandlung

Zehntausende Hinweise auf online verbreitete Bilder von Kindesmissbrauch gehen jährlich bei deutschen Behörden ein. Doch die Zahl der falschen Verdächtigungen ist nach SPIEGEL-Informationen massiv gestiegen.

DER SPIEGEL
Jun 16, 2024 at 1:09pmWeb
Show threadPatrick BreyerJun 16, 2024

🇫🇷Le nombre de faux soupçons liés au #ChatControl 1.0 a massivement augmenté, rapporte le SPIEGEL (en allemand): https://www.spiegel.de/netzwelt/netzpolitik/chatkontrolle-zahl-der-falschmeldungen-zu-kindesmisshandlung-massiv-gestiegen-a-a746b118-82e7-4560-8ba4-45f02489768c

Malgré cela, les gouvernements de l'UE veulent rendre le #ChatControl obligatoire mercredi pour tous les fournisseurs!

Geplante Chat-Überwachung: Deutlich mehr Falschmeldungen zu Kindesmisshandlung

Zehntausende Hinweise auf online verbreitete Bilder von Kindesmissbrauch gehen jährlich bei deutschen Behörden ein. Doch die Zahl der falschen Verdächtigungen ist nach SPIEGEL-Informationen massiv gestiegen.

DER SPIEGEL
Show threadJun 16, 2024
shocking /s
@echo_pbreyer
Show threadMax Lee Jun 16, 2024
@echo_pbreyer Almost makes it feel like they don't care about the children... as if they just want control.
Show threadMisuse CaseJun 16, 2024
@echo_pbreyer @aslakr A letter published by 300+ scientists about ChatControl said that any scanning system, because of the statistical likelihood of false positives with current technology and the sheer number of messages sent on a daily basis, would produce *millions* of false positive alerts. There would be something like 1.25 million per day for WhatsApp alone.
Show threadsirjofriJun 16, 2024
@MisuseCase @echo_pbreyer @aslakr I was actually thinking about this some time ago: what would happen if we all started to formulate our messages so that their systems recognize them as potentially illegal? Like, seeding videos and images and changing our style of writing just to increase the number of false positives? At some point they just have to give up. They can't read all of our messages!
Show threadMisuse CaseJun 16, 2024

@sirjofri @echo_pbreyer @aslakr You wouldn’t even need to. The volume of messages plus the false positive rate of detection tools would generate a huge volume of false positives.

The Chat Control legislation says people will be subjected to increased scrutiny after 2 or 3 monitoring events (depending on circumstances).

1/2

Show threadMisuse CaseJun 16, 2024

@sirjofri @echo_pbreyer @aslakr I think this means, plausibly, that a lot of people will rack up those 2 or 3 false positives - especially if they are in families with young children and take pictures of them for the pediatrician or send out pictures of them in the bathtub or something.

Then they may be subjected to automated surveillance or even a government visit for no reason.

2/2