Überwachungsbrille von Meta

Ich sehe was, was du nicht siehst – Smart Glasses kommen im Mainstream an. Sie sehen aus wie herkömmliche Brillen und sind eine völlig neue Bedrohung für die Privatsphäre. Was man über die übergriffigen Geräte wissen sollte.

Die Stadt Potsdam hat Smart Glasses kürzlich in ihren Bädern verboten. Die französische Datenschutzaufsicht warnt vor den Brillen und spricht davon, dass sie Überwachung normalisieren könnten. Und auch in Brüssel erhöht sich der Druck: Europaabgeordnete fordern Aufklärung darüber, wer die mit den Brillen aufgezeichneten Bilder eigentlich zu sehen bekommt.

Smart Glasses sind der neue Technik-Hype und mit den dicken schwarzen Brillen mit der eingebauten Kamera verbreitet sich auch die Kritik an den Gefahren. Influencer filmen damit heimlich Frauen am Strand oder auf der Straße und veröffentlichen das Material im Netz, eine neue Form der digitalen Gewalt.

Zugleich warnen Kritiker*innen vor den tiefgreifenden Veränderungen durch die Brillen. Eine umfassende rechtswissenschaftliche Betrachtung stellte fest: „Smart Glasses bergen aufgrund fehlender Transparenz der Informationserfassung sowie mangelnder Kontrolle anschließender Informationsverarbeitung eine erhebliche Gefahr der Beeinträchtigung der Privatsphäre und damit rechtlich verbürgter Persönlichkeitsrechte der von ihnen erfassten Personen.“

Dabei gingen die Gefahren „weit über die bisher verwendeten Arten der optischen, akustischen und elektronischen Informationserfassung“ wie bei Videoüberwachung oder Smartphones mit Kameras hinaus. Problematisch ist dabei nicht nur die Tiefe des technischen Eingriffs, sondern auch die absehbare Breite ihrer Anwendung, wenn immer mehr Menschen die Brillen nutzen.

Mit den heutigen Möglichkeiten der biometrischen Gesichtserkennung hat sich dieses Problem noch verschärft. Denn auch wenn in den Modellen von Meta bislang keine Funktion zur Gesichtserkennung scharf gestellt ist, hat der Konzern diese schon in Stellung gebracht. Es ist nur eine Frage der Zeit, bis jede Begegnung mit einer brillentragenden Person die Frage aufwirft: Werde ich gerade identifiziert?

Was macht es mit einer Gesellschaft, wenn man davon ausgehen muss, in jeder Situation unbemerkt gefilmt werden zu können? Sollte das überhaupt erlaubt sein? Und wer könnte die Technologie jetzt noch stoppen?

Wir beantworten die wichtigsten Fragen zu den neuen Überwachungsbrillen:

Was können die Brillen und wie werden sie beworben?

Die Überwachungsbrillen werden als Smart Glasses vermarktet und gehören zu den sogenannte Wearables, sind sind also tragbare, mit Computern ausgestattete Geräte.

Die Datenbrillen können einerseits filmen und damit die Umgebung erkennen und andererseits Informationen im Sichtfeld einblenden. Manche Brillen haben weitere Sensoren sowie Mikrofon und Lautsprecher verbaut. Die Geräte werden meist mit einem weiteren Gerät wie einem Smartphone sowie Apps verknüpft und sind so mit dem Internet und KI-Anwendungen verbunden.

Die Brillen haben im Gegensatz zur klassischen Virtual-Reality-Brille transparente Gläser, die um Informationen ergänzt werden können, und sollen für Anwendungen der Augmented oder Mixed Reality genutzt werden. Darunter versteht man, dass der klassischen menschlichen Sicht eine weitere Ebene der Information hinzugefügt wird, es handelt sich dabei um eine Art Mensch-Maschine-Schnittstelle, ähnlich wie bei Cyborgs.

Denkbare Nutzungen neben dem Fotografieren und Filmen sind Objekt- und Gesichtserkennung, Navigation, Unterhaltung, Kommunikation oder Interaktion mit einem Endgerät.

Erkennt man, wenn mit der Brille gefilmt wird?

Laut Meta: ja. Eine kleine weiße Leuchtdiode am rechten Rand des Rahmens zeigt an, dass jemand seine Umgebung mit der Brille gerade aufzeichnet oder dass die KI-Funktion aktiv ist, mit der sich Nutzer*innen Informationen zu ihrer Umgebung anzeigen lassen können.

Allerdings ist die Leuchte leicht zu manipulieren. Im Netz kursieren zahlreiche Anleitungen, um heimlich mit der Brille filmen zu können. Und auch sonst ist für Umstehende nicht unbedingt zu erkennen, ob die Brille gerade aufnimmt, zum Beispiel bei hellem Sonnenschein oder Gegenlicht.

Für Sprachaufnahmen gibt es gar keinen Hinweis. Laut Meta kann das Mikrofon mindestens im Umkreis von zwei Metern aufnehmen.

Die Brille funktioniert nur in Kombination mit einer Begleit-App auf dem Handy. Diese kann auch mit dem eigenen Instagram- oder Facebook-Account verbunden werden. Danach können Nutzer*innen Aufnahmen aus der Brille etwa direkt in ihren Insta-Stories posten. Technisch sind in der Zukunft alle möglichen App- und Daten-Verknüpfungen der Brillen denkbar, so wie das heute auch mit Smartwatches passiert.

Kann die Brille auch Gesichter erkennen?

In früheren Versionen der Smart Glasses hat Meta nach rechtlichen Abwägungen auf Gesichtserkennung verzichtet. Noch im April sagte Meta, sollte man Gesichtserkennung einführen, würde diese nicht geschehen, ohne zuvor „sehr sorgfältig vorzugehen“.

Anfang Juni deckte das US-Magazin WIRED dann auf, dass Meta die Funktion zur Gesichtserkennung bereits in Position gebracht hat. In den neueren Versionen der App, die Nutzer*innen für den Einsatz der Brille herunterladen müssen, war die Funktion bereits im Code hinterlegt, wenn auch noch nicht offengelegt. Zuvor hatte bereits die New York Times über die Pläne berichtet, die Smart Glasses von Meta mit einer Gesichtserkennung auszustatten.

Das neue Feature heißt NameTag und erkennt Menschen im Gesichtsfeld der Kamerabrille. Ist es aktiv, kann es Träger*innen auf eine erkannte Person hinweisen. Nach der Veröffentlichung von WIRED hat Meta die Funktion in der neuen Version der App wieder aus dem Code entfernt.

Was passiert mit den Daten?

Nach Angaben von Meta werden die Aufnahmen, die mit den Brillen gemacht werden, zunächst nur zwischen der Brille und der zugehörigen App synchronisiert und können von dort aus auf dem Handy gespeichert werden.

Ist die Funktion des „Cloud Processing“ eingeschaltet, werden die Aufnahmen jedoch auch an einen Meta-Server verschickt. Auch Aufnahmen, die mit der Meta-KI analysiert werden, werden dafür auf einen Server übermittelt. Mit dieser Funktion können sich Nutzer*innen zusätzliche Informationen zu Dingen anzeigen lassen, die im Sichtfeld auftauchen, etwa Speisekarten übersetzen lassen oder ein Denkmal erklärt bekommen.

Kann auch die Polizei die Aufnahmen zu Gesicht bekommen?

Alle Daten, die privat gesammelt werden, können unter bestimmten rechtlichen Voraussetzungen wie beispielsweise bei Ermittlungsverfahren auch in die Hände der Polizei gelangen. Die Nutzung solcher Brillen wird zu mehr privater Videoüberwachung des öffentlichen Raumes führen und damit auch potentiell zu mehr Daten für Ermittlungsbehörden. Es ist ein Ausbau privater Überwachung, ähnlich wie Heimüberwachungssysteme wie Amazon Ring.

Bekommen weitere Menschen die Aufnahmen zu Gesicht?

In den Nutzungsbedingungen von Meta steht, dass die Interaktionen mit seinen KI-Assistenten sowohl automatisiert als auch „manuell“ von Menschen überprüft werden könnten. Meta lagert diese Prüfungen an Subunternehmen aus. Die schwedische Zeitung Svenska Dagbladet sprach im Frühjahr mit Mitarbeiter*innen eines solchen Unternehmens in Kenia. Sie berichten, dass sie im Rahmen ihrer Arbeit Aufnahmen sichten müssen, die Menschen nackt, auf der Toilette oder beim Sex zeigten. In den USA läuft deswegen schon eine Sammelklage gegen Meta.

Was tun Datenschutzbehörden in der EU?

Zuständig für den Datenschutz von Meta ist die irische Datenschutzaufsicht DPC, denn dort hat der Konzern seinen EU-Sitz.

Doch auch jenseits von Irland bringen sich Aufsichtsbehörden derzeit in Stellung. Die französische Behörde CNIL hat im Mai eine Warnung vor den Brillen ausgesprochen. Sie stellten ein „erhebliches Risiko“ für die Normalisierung von Überwachung dar und könnten „zu einem tiefgreifenden Wandel unserer Gesellschaften führen“.

Auch der Europäische Datenschutzausschuss (EDPD) hat eine Arbeitsgruppe zum Thema eingerichtet. Ein Bericht soll diesen Sommer erscheinen. Nach den Veröffentlichungen in Schweden haben sich auch Abgeordnete des EU-Parlaments eingeschaltet und fordern Aufklärung.

Der Knackpunkt aus Sicht der Datenschutzgrundverordnung (DSGVO) ist die Frage, ob die kleine LED an der Brille den Anforderungen eines Hinweises genügt. Denn laut DSGVO darf nur gefilmt werden, wer erkennbar darauf hingewiesen wurde und zustimmt („notice and consent“), egal ob das in der U‑Bahn oder auf einem Konzert geschieht. Verbraucherschützer*innen warnen, eine solche Einwilligung sei im Fall von Smart Glasses realistischerweise gar nicht möglich.

Darf man eine andere Person ohne deren Zustimmung einfach so filmen?

Andere ohne deren Zustimmung auf der Straße einfach zu filmen, ist in Deutschland nicht prinzipiell verboten, kann aber eine Verletzung des Persönlichkeitsrechts darstellen. Das lässt sich zivilrechtlich verfolgen.

Ähnlich ist es mit dem „Recht am eigenen Bild“ laut Kunsturhebergesetz: Aufnahmen, auf denen eine andere Person erkennbar ist, darf man nur veröffentlichen, wenn diese ausdrücklich zustimmt. Ausnahmen gelten für Personen der Zeitgeschichte, auf Großveranstaltungen oder wenn jemand auf einem Landschaftsbild nur im Hintergrund als Beiwerk auftaucht. Ein Livestream mit der Brille in der Innenstadt, bei einer Wanderung oder einem Festival ist immer ein Verstoß gegen das Gesetz, wenn dort Menschen ungefragt ins Netz gestreamt werden. Allerdings können Betroffene nur zivilrechtlich dagegen vorgehen und zum Beispiel auf Unterlassung oder Schadensersatz klagen.

Es gibt also einen Unterschied zwischen dem eigentlichen Filmen und der Veröffentlichung. Allerdings kann auch schon das reine Filmen ein Verstoß sein – gegen die Datenschutzgrundverordnung der EU.

Mit dem Handy oder mit einer Überwachungsbrille gefilmt: Wo ist der Unterschied?

Aus rechtlicher Sicht macht es in Deutschland keinen Unterschied, womit gefilmt wird. Entscheidend ist, wo eine Aufnahme entsteht und wie sie weiterverwendet wird.

Aber: Eine Handykamera wird von Umstehenden meist klar als Kamera wahrgenommen. Sie bekommen mit, dass gefilmt wird, und können sich wegducken, ausweichen oder die filmende Person ansprechen. Eine in eine Brille eingebaute Kamera ist für viele nicht zu erkennen. Nutzer*innen können damit filmen und andere sogar identifizieren, ohne dass Menschen in ihrer Umgebung eine Chance hätten, das zu merken oder dem zu widersprechen.

Geht es um den Datenschutz, ist das ein relevanter Unterschied, weil die DSGVO nach der Zustimmung verlangt, bevor andere gefilmt werden dürfen.

Darf man andere nackt in der Sauna oder am FKK-Strand filmen?

Derzeit sind solche heimlichen Voyeursaufnahmen zwar verboten, aber nicht strafbar. Das zeigte ein Fall aus Leipzig. Die dortige Staatsanwaltschaft hat das Verfahren gegen einen Mann eingestellt, der zwei Frauen heimlich in der Sauna filmte. Die Begründung: Bei einer Sauna handele es sich nicht um einen vor Blicken besonders geschützten Raum – das wäre aber die Voraussetzung für eine Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen laut Strafgesetzbuch.

Das Bundesjustizministerium plant, dies zu ändern. Im Entwurf für das neue Gesetz gegen digitale Gewalt ist vorgesehen, das heimliche Filmen als eigenen Tatbestand ins Strafgesetzbuch aufzunehmen. Derzeit läuft die Konsultation der Verbände, bevor das Gesetz im Bundestag diskutiert wird.

Was, wenn ich im Bikini am Badesee gefilmt werde?

Betroffene haben im Fall von heimlichen Bikiniaufnahmen noch weniger Handhabe als bei Nacktaufnahmen. Sogenannte „Rizzfluencer“ nutzen das aus. Sie filmen Frauen mit Hilfe von Smart Glasses heimlich am See, in der Kneipe oder auf der Straße und veröffentlichen das Material im Netz für Reichweite.

Betroffene können in so einem Fall nur auf eigene Faust vor Gericht ziehen und wegen Verstoßes gegen das Persönlichkeitsrecht klagen. Doch dieser Privatklageweg ist teuer und anstrengend, kritisieren Fachleute.

Das geplante Gesetz gegen digitale Gewalt könnte das womöglich ändern. Laut Entwurf soll auch strafbar werden, das Gesäß oder die weibliche Brust „in sexuell bestimmter Weise“ zu filmen. Doch die Formulierung steht in der Kritik, weil sie vage ausfällt. Fachleute fürchten, dass sie Betroffenen nicht helfen wird.

Wie nennt man Menschen, die diese Brillen benutzen?

Es haben sich verschiedene Bezeichnungen für die Nutzer:innen solcher Brillen eingebürgert. Bei dem Versuch von Google in den 2010er-Jahren, eine solche Brille einzuführen, etablierte sich der Name „Glasshole“ – eine Kombination aus dem Produkt „Google Glass“ und „Asshole“ (Arschloch). Der abfällige Name geht darauf zurück, dass Menschen das Produkt als invasiv und die Nutzer:innen es als übergriffig empfanden.

Im Zusammenhang mit Metas Überwachungsbrille ist derzeit von „Pervert Glasses“die Rede, die Nutzer:innen wurden in Wired als „Meta Creeps“ und weiterhin auch als „Glassholes“ bezeichnet.

Wie viele der Brillen sind schon im Umlauf?

Das Unternehmen EssilorLuxoticca, das die Brillen für Meta herstellt, spricht von mehr als sieben Millionen weltweit verkauften Exemplaren im vergangenen Jahr. In diesem Jahr sollen es zehn Millionen werden. Wie viele davon in Europa verkauft wurden, gibt das Unternehmen nicht bekannt.

Noch dominiert Meta diesen Markt. Doch weitere Tech-Konzerne wie Apple und OpenAI haben bereits eigene Modelle angekündigt.

Chris Köver recherchiert und schreibt über Netzpolitik, Überwachungstechnologien, digitale Gewalt und Jugendschutz. Recherche-Anregungen und Hinweise gerne per Mail oder via Signal (ckoever.24). Seit 2018 bei netzpolitik.org. Hat Kulturwissenschaften studiert und bei Zeit Online mit dem Schreiben begonnen, später das Missy Magazine mitgegründet und geleitet. Ihre Arbeit wurde ausgezeichnet mit dem Journalistenpreis Informatik, dem Grimme-Online-Award, dem Rainer-Reichert-Preis zum Tag der Pressefreiheit und dem Datenschutz-Medienpreis. Kontakt: E-Mail (OpenPGP), BlueSky, Mastodon, Signal: ckoever.24. Markus Reuter recherchiert und schreibt zu Digitalpolitik, Desinformation, Zensur und Moderation sowie Überwachungstechnologien. Darüber hinaus beschäftigt er sich mit der Polizei, Grund- und Bürgerrechten sowie Protesten und sozialen Bewegungen. Für eine Recherchereihe zur Polizei auf Twitter erhielt er 2018 den Preis des Bayerischen Journalistenverbandes, für eine TikTok-Recherche 2020 den Journalismuspreis Informatik. Bei netzpolitik.org seit März 2016 als Redakteur dabei. Er ist erreichbar unter markus.reuter | ett | netzpolitik.org, sowie auf Mastodon und Bluesky. Kontakt: E-Mail (OpenPGP). Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Ein Gesetz stürzt noch kein Patriarchat

Gewalt gegen Frauen: Das geplante Gesetz gegen digitale Gewalt schließt längst überfällige Strafbarkeitslücken. Doch auf einem Verbot für sexualisierte Deepfakes kann sich die Bundesregierung nicht ausruhen, so lange die meisten Fälle nicht mal bis zur Anklage kommen.

Jetzt kommt es also endlich, das Gesetz gegen digitale Gewalt, an dem das Justizministerium bereits seit fünf Jahren arbeitet, das schon zu Ampelzeiten versprochen wurde und dann versandete. Am Freitag hat Bundesjustizministerin Stefanie Hubig (SPD) angekündigt, den Entwurf noch diese Woche vorzulegen. Er soll in den kommenden Tagen innerhalb der Bundesregierung abgestimmt werden.

Die sexualisierten Deepfakes, über die derzeit ganz Deutschland spricht, nachdem die Schauspielerin Collien Fernandes ihren Fall öffentlich machte, sie sollen damit unter Strafe gestellt werden.

Nicht nur das Verbreiten und Teilen, sondern schon das Erstellen solcher Aufnahmen wird dann in Deutschland verboten. Und auch viele weitere Schutzlücken zu bildbasierter Gewalt soll das Gesetz schließen, etwa zu heimlichen Aufnahmen in Umkleiden und Saunen oder dem ungefragten heimlichen Filmen eines bekleideten Hinterns – unglaublich, aber all das war bislang nicht explizit strafbar.

Jurist*innen und Betroffene weisen seit Jahren auf diese Ungerechtigkeiten hin. Sie sind nicht nur den Betroffenen kaum vermittelbar, sondern allen, die zurecht fragen, welchen Wert sexuelle Selbstbestimmung in einem Land hat, in dem solche Übergriffe erlaubt ist. Es ist gut, dass das deutsche Strafrecht sie in Zukunft klar verbietet, auch wenn die Reaktion reichlich spät kommt.

Was ist mit den restlichen 97 Prozent?

Gleichzeitig könnte man, wenn man der Justizministerin derzeit zuhört, meinen, damit sei es schon getan.

Das ist es leider nicht. Nur sehr wenige Betroffene von sexualisierter Gewalt zeigen diese derzeit an. Bei digitaler Gewalt liegt der Anteil bei 2,4 Prozent. Das zeigt eine kürzlich erschienene Studie von Bundesfamilienministerium, Bundesinnenministerium und Bundeskriminalamt.

Der mit Abstand größte Teil der Menschen bringt die Fälle also nicht zur Polizei, es folgen nie Ermittlungen oder Anklagen einer Staatsanwaltschaft deswegen. Was die Frage aufwirft: Was ist denn mit den restlichen 97,6 Prozent?

Natürlich kann es sein, dass die Anzeigequote steigt, wenn Betroffene davon ausgehen, dass ihre Anzeigen eine größere Chance für eine Strafverfolgung bieten. Dass mutmaßliche Täter*innen nicht so leicht davon kommen. Dass ihre Schilderungen von der Polizei verstanden und ernst genommen werden und auch vor Gericht. Hier muss der Staat daran arbeiten, dass seine Behörden bei einer Anzeige wegen digitaler und sexualisierter Gewalt nicht als Hindernis und Schikane wahrgenommen werden, sondern als Unterstützung.

Die öffentlich zur Schau gestellte Zufriedenheit der Justizministerin, bei der es nun klingt als hätte ihre Regierung mit dem Gesetzentwurf quasi schon das Patriarchat halb in die Knie gezwungen: Vor allem Fachleute teilen sie nicht. Sie verweisen stattdessen auf all die vielen Hebel, die darüber hinaus umgelegt werden müssen.

„Dann schäme ich mich noch mehr“

Was Menschen – oder sagen wir es gleich, es sind ganz überwiegend Frauen und Mädchen – fühlen und denken, wenn sie ein sexualisiertes Deepfake von sich im Internet entdecken, beschreibt etwa die Moderatorin Lola Weippert in der Dokumentation, die Collien Fernandes vor zwei Jahren für das ZDF gedreht hat.

Auf die gefälschten Videos von ihr angesprochen sagt Weippert: „Ich schäme mich, dass es so etwas überhaupt gibt. Und dann schäme ich mich noch mehr, wenn ich denke, wie viele Menschen das sehen und denken, das ist echt. Und ich kann nichts dagegen tun.“

Die Betroffenen fühlen Scham, viele sprechen von Panik, fragen sich, wer die Bilder kennt oder was passiert, wenn Auftrag- und Arbeitgeber*innen, Familie, Freunde diese finden. Sie fürchten um ihre Jobs, ihre Einkommen. Die psychischen und körperlichen Folgen, der Stress, die Angst, sie sind ähnlich wie bei anderen Gewalterfahrungen, der Körper unterscheidet da nicht.

In so einer Situation brauchen Betroffene vor allem praktische und sofortige Unterstützung. Wie können sie dafür sorgen, dass Bilder oder Deepfakes gelöscht werden? Dass sie aus den Suchmaschinen verschwinden? Welche Aussichten hat es überhaupt, Anzeige zu erstatten und wie müssen sie dafür Beweise sichern?

Recht auf Beratung für Betroffene? Ab 2032.

Dazu gehört juristische Beratung, aber auch psychologische Hilfe. Die Stellen, die solche Hilfe aber anbieten, sind in Deutschland chronisch unterfinanziert. Sie müssen um Stellen und Mittel kämpfen, wissen oft nicht, wie es zum Jahresende finanziell weitergeht. Das Gewalthilfegesetz, das die Bundesregierung vor einem Jahr verabschiedet hat, soll die Beratung in solchen Fällen zu einem Recht machen. Dieser Rechtsanspruch: Er greift ab dem Jahr 2032.

Eine Bundesregierung, die ihre Bürger*innen vor Gewalt schützen will, kann sich nicht auf einer reichlich späten Verschärfung des Strafrechts ausruhen. Tech-Oligarchen haben Technologien entwickelt, die es möglich machen, mit ein paar Klicks und wenigen Wortendie sexuelle Selbstbestimmung eines anderen Menschen zu verletzen.

Sie dürfen damit nicht durchkommen und die EU hat bereits Mittel, um sie damit auch nicht durchkommen zu lassen. Weitere Werkzeuge sind in Arbeit. Aber so lange die Technologien in der Welt sind und es auch bleiben werden, so lange das Patriarchat weiterhin stabil und breitbeinig steht, muss die Bundesregierung so schnell wie möglich für das absolute Minimum sorgen: Dass diejenigen, die den Schaden tragen, wenigsten die Hilfe und Unterstützung bekommen, die sie brauchen.

Chris Köver recherchiert und schreibt über Migration, biometrische Überwachung, digitale Gewalt und Jugendschutz. Recherche-Anregungen und -Hinweise gerne per Mail oder via Signal (ckoever.24). Seit 2018 bei netzpolitik.org. Hat Kulturwissenschaften studiert und bei Zeit Online mit dem Schreiben begonnen, später das Missy Magazine mitgegründet und geleitet. Ihre Arbeit wurde ausgezeichnet mit dem Journalistenpreis Informatik, dem Grimme-Online-Award und dem Rainer-Reichert-Preis zum Tag der Pressefreiheit. Kontakt: E-Mail (OpenPGP), BlueSky, Mastodon, Signal: ckoever.24. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Frauen eher leise

Digitale Gewalt: „Hass im Netz führt dazu, dass Frauen eher leise auftreten“

In ihrem neuen Buch „Feindbild Frau“ zeigt Ingrid Brodnig, wie Politiker*innen auf die systematischen Bedrohungen und Beleidigungen reagieren, die sie im Netz erleben. Im Interview spricht sie über dickes Fell, Durchsetzungslücken und Doppelstandards, die es Frauen schwer machen, sich dagegen zu wehren.

Ingrid Brodnig beobachtet seit Jahren die Debattenkultur im Netz, wenn man diese so bezeichnen kann. Die österreichische Journalistin hat sich spezialisiert auf Bücher und Beiträge zu Falschinformationen und digitaler Gewalt. Während der Corona-Pandemie galt sie als gefragte Expertin, um Verschwörungstheorien rund um die Pandemie einzuordnen. Noch länger beschäftigt sich Brodnig mit dem, was oftmals unter „Hass im Netz“ gefasst wird: Hetzkampagnen, gezielten Bedrohungen und Beleidigungen im digitalen Raum, die oft unterhalb der Schwelle zur Straftat liegen und doch große Wirkung entfalten.

Sechs Sachbücher hat Brodnig bislang veröffentlicht – unter anderem zu den Auswirkungen des Onlineseins auf die Gesellschaft, Falschnachrichten, Anonymität und zur Macht der großen Plattformen. Jetzt folgt ein weiteres. Für die Recherche hat sie mit Abgeordneten und Politikerinnen aus Deutschland und Österreich über ihre Erfahrungen mit Alltagsgewalt im Internet gesprochen, darunter Renate Künast und Anke Domscheit-Berg.

„Eine substanzielle Aufarbeitung erfolgt kaum“

Dass Politikerinnen im Netz besonders häufig bedroht und massiv beleidigt werden, ist kein neues Phänomen. Warum greifen Sie das Thema erneut auf?

Wir sehen diese Fälle in den Medien. Da geht es jedes Jahr um eine andere Person: Renate Künast, Ricarda Lang, Heidi Reichinnek. Eine substanzielle Aufarbeitung erfolgt aber kaum.

Wir beschäftigen uns kurz damit und freuen uns, dass Renate Künast einen juristischen Erfolg erzielt. Aber die Geschichte endet ja damit nicht.Ich wollte von den Politikerinnen erfahren: Wie erfahren sie die Anfeindungen? Und welche wiederkehrenden Muster lassen sich darin erkennen?

Was haben Sie erfahren?

Ich mache das an einem Beispiel fest. Vor ein paar Jahren gab es eine schreckliche Massenvergewaltigung in einem Bus in Indien, die Frau starb. Zu dieser Zeit schrieb jemand auf Twitter einer Politikerin, er würde ihr gerne eine Busfahrt durch Indien spendieren.

Das ist eine verklausulierte Vergewaltigungsdrohung, die aus juristischer Sicht womöglich nicht als Vergewaltigungsdrohung eingestuft wird. Denn es wird keine Absicht formuliert im Sinne von: „Ich werde dich vergewaltigen.“ Die Frau sagte dazu: Es macht keinen Unterschied, ob das verklausuliert ist oder nicht, der Effekt ist der gleiche. Das reicht bis hin zu körperlichen Folgen, Herzzustände, Schlaflosigkeit, Zittern plötzlich vor einem TV-Auftritt.

Sie wollen, dass die Menschen so mehr über die Folgen der Gewalt erfahren?

Es gibt ein großes Bewusstsein dafür, dass Hass im Netz gegen Frauen existiert, aber die Debatte verpufft schnell an dieser Erkenntnis. Wenn man diese digitale Gewalt genauer beschreibt, dann wird viel klarer, was die Betroffenen erleben und was es auslöst.

„Es ist schlimmer geworden in den vergangenen 10 Jahren“

Sie haben bereits vor zehn Jahren ein Buch mit dem Titel “Hass im Netz” geschrieben, das sich auch mit der Gewalt gegen Politikerinnen befasst. Was hat sich seitdem verändert?

Es ist schlimmer geworden. Ich habe zur Vorbereitung das alte Buch nochmal zur Hand genommen und gemerkt: Vieles darin würde ich heute nicht einmal mehr zitieren, weil es mir zu harmlos erscheint.

Es gab eine Verrohung und auch Zermürbung in diesen zehn Jahren. Wir haben uns als Gesellschaft an vieles gewöhnt. Was vor zehn Jahren noch für eine aufgeregte Offline-Debatte gesorgt hätte, empfinden wir heute schon als Business as Usual.

Gleichzeitig haben auch die Plattformen wesentliche Rückschritte gemacht. Dort konnte man eine Phase des Einlenkens beobachten, speziell nach der US-Präsidentschaftswahl im Jahr 2016. Damals wurde klar, wie stark Facebook und andere Plattformen für Propaganda genutzt wurden. Auch die EU schaute streng auf die Plattformen.

Dieser Eindruck ist mit der Wiederwahl von Donald Trump komplett gekippt. Meta hat seine Richtlinien in vielen Punkten aufgeweicht. Formen der Beleidigung und Herabwürdigung gegen Frauen oder LGBTIQ-Personen sind jetzt explizit erlaubt. Man darf LGBTIQ-Personen auf Facebook und Instagram jetzt als “psychisch krank oder anormal” bezeichnen.

„Frausein an sich ist eine Gefahr“

Sie schreiben, die Erfahrungen dieser Politiker*innen seien für sie ein Symbol für den Zustand der Demokratie. Was meinen sie damit?

Ich habe zehn Typen von wiederkehrenden geschlechtsspezifischen Beleidigungen und Bedrohungen herausgearbeitet. Ein Typus besteht in der Abwertung, die auf einer sexuellen Verwertungslogik basiert. Das wäre so ein Kommentar wie: “Niemand will dich ficken.” Frauen stehen also besonders im Fokus.

Politikerinnen sind Frauen und sie sind sehr sichtbar. Beides ist eine Gefahrensituation im Internet. Mit Sichtbarkeit steigt die Wahrscheinlichkeit, dass Communitys auf mich aufmerksam werden, die für gänzlich andere Werte eintreten oder an mir ein Exempel statuieren wollen.

Und Frausein an sich ist eine Gefahr, weil wir eine sehr starke maskulinistische Szene im Netz haben, deren Mitglieder moderne, selbstbewusste Frauen als zentrales Problem ansehen.

Demokratie baut darauf auf, dass die unterschiedlichsten Bevölkerungsgruppen gleichwertig an der politischen Debatte teilhaben können. Das wurde hart erkämpft. Ich glaube, dass derzeit die Gefahr besteht, dass wir hier auf verschiedenen Ebenen Rückschritte machen.

Ein gängiger Einwand lautet, wer in der Öffentlichkeit steht, müsse eben mehr aushalten, auch wenn es mal unfair zugeht.

Renate Künast sagte zu mir, als Politikerin hätten die meisten ein bisschen Hornhaut auf der Seele. Für ihr Team seien die Hasskommentare gegen sie anfangs schwerer auszuhalten gewesen als für sie selbst.

Mir macht das Sorge, wenn Menschen in öffentlichen Debatten in einer Demokratie Hornhaut auf der Seele brauchen, um hier überhaupt mitmachen zu können. Es ist immer leichter, eine solche dicke Haut einzufordern, wenn man nicht weiß, was Menschen erleben. Und bei Frauen ist der Verdacht natürlich besonders groß, dass sie einfach zu feinfühlig seien.

Ziehen Frauen sich tatsächlich schneller zurück nach solchen Erfahrungen?

Hass im Netz führt tatsächlich dazu, dass Frauen eher leise auftreten oder gar verstummen. 42 Prozent der Frauen, die hasserfüllte Kommentare erhalten, werden vorsichtiger beim Formulieren ihrer Meinung. Bei Männern sind es 16 Prozent, ergab eine norwegische Studie. Das ist ein demokratisches Alarmsignal!

Aber das bedeutet nicht, das Frauen zu schwach sind. Alle Geschlechter erleben digitale Gewalt. Und in jedem einzelnen Fall ist das falsch.

Bei Frauen gibt es allerdings diese spezielle sexualisierte Komponente. Und die hat zum einen eine besonders einschüchternde Wirkung. Zum anderen bekommen Frauen von klein auf gesagt, sie müssten sich vor Gefahren schützen. Es ist oft Teil ihrer Sozialisation, dass sie lernen, den Raum lieber zu verlassen, als zu riskieren, dass die Situation sich weiter zuspitzt.

„Wir haben eine Zweiklassensituation“

In Deutschland wird seit Jahren über Ansätze debattiert, um die Rechte von Betroffene zu stärken. Das Bundesjustizministerium arbeitet an einem „digitalen Gewaltschutzgesetz“. Betroffene sollen damit leichter auf dem Privatklageweg erfahren, wer hinter einem anonymen Account steckt. Was halten Sie davon?

Das erscheint mir sinnvoll. Derzeit sind sehr häufig die Kosten einer Privatklage ein hohes Hindernis. Wir haben eine Zweiklassensituation, wo diejenigen, die es sich leisten können, leichter gegen digitale Gewalt vorgehen können als andere. Alles, was dazu beiträgt, das Kostenhindernis zu verringern, ist gut.

Die Pläne für das Gesetz sehen außerdem vor, dass Accounts künftig nach wiederholten Rechtsverletzungen per Gerichtsbeschluss gesperrt werden. Ist das angemessen?

Wir müssen eine Lösung finden für Personen, die fortwährend andere Menschen verletzen oder falsche Informationen verbreiten. Wir müssen dann aber auch die Frage nach der Resozialisierung stellen. Wann wird einem Menschen beispielsweise wieder zugesprochen, dass er oder sie wieder posten darf? Bei vielen dieser Nachschärfungen gilt: Der Teufel liegt im Detail. Es bleibt Feinstarbeit.

„Die EU präsentiert sich gerne als Champion der digitalen Grundrechte“

Auf EU-Ebene soll seit 2024 der Digital Services Act die Rechte von Nutzer*innen auf den großen Plattformen stärken. Meta, TikTok und Co. müssen etwa Meldeverfahren anbieten, die “leicht zugänglich und benutzerfreundlich” sind. Hat das zu einer Verbesserung beigetragen?

Ohne den Digital Services Act wären wir derzeit sicher schlechter dran in Zeiten, in denen die großen Tech-Plattformen den Schulterschluss mit der Trump-Regierung üben. Der DSA ermöglicht es, hohe Geldbußen zu verhängen, wenn Unternehmen systemisch Risiken ignorieren oder Meldefunktionen fehlen. Aber diese Regeln müssen auch durchgesetzt werden. Bisher gab es aber nur eine negative Entscheidung aus Sicht der Plattformen, nämlich die 120 Millionen Euro Geldbuße für X.

Die EU-Kommission und die EU als Ganzes präsentieren sich gerne als Champions der digitalen Grundrechte. Und auf dem Papier hat die EU auch gute Regeln geschaffen. Aber erst die nächsten ein, zwei Jahre werden zeigen, ob sie dieses Versprechen auch einlöst. Ob ich genügend geschützt werde, wenn Falsches über mich verbreitet wird, wenn ich fertig gemacht werde, wenn ich eingeschränkt werde.

Kann die EU-Kommission die großen Plattformen kontrollieren? Kann sie potenziell rechtswidrige Kommentare auch ernsthaft und rasch prüfen? Und kann sie genügend gegen systemische Risiken unternehmen? An all diesen Fragen wird sich zeigen, wie mutig und selbstbewusst die EU auftritt – auch und gerade gegen die Konzerne in den USA.

„Jede einzelne Anzeige, die leichter erfolgt, ist schon ein Fortschritt“

Was könnte die Bundesregierung konkret tun, um die von Ihnen beschriebene Gewalt einzudämmen?

Ich sehe einige konkrete Stellschrauben. Deutschland kann als Staat einige Rechtslücken schließen oder bürokratische Hürden nehmen. Zum Beispiel die Kostenreduktion. Oder auch bildbasierte digitale Gewalt stärker ahnden, zum Beispiel sexualisierte Deepfakes. Das löst das Problem nicht als Ganzes. Aber jede einzelne Anzeige, die leichter erfolgt, ist schon ein Fortschritt. Und die Regierung muss auf europäischer Ebene den Druck erhöhen, damit die eigentlich sinnvollen Regeln auch umgesetzt werden.

Was können Einzelpersonen in dieser Situation beitragen?

In der Tat, es gibt eine dritte Ebene: die Persönliche. Ich habe auch mit der Psychotherapeutin und Psychologin Dorothee Scholz gesprochen, die mit Betroffenen digitaler Gewalt zusammenarbeitet. Aus ihrer Sicht kann es die Weltwahrnehmung sehr verändern, wenn Menschen den ganzen Tag nur Hasskommentare lesen.

Das heißt aber auch: Ich kann den Betroffenen solcher Vorfälle schreiben – öffentlich oder privat – und ihnen sagen: Das hast du nicht verdient, lass dich nicht unterkriegen oder du leistest wichtige Arbeit. Auch das hilft.

„Feindbild Frau. Wie Politikerinnen im Netz bedroht, beleidigt und verdrängt werden – und was wir alle dagegen tun können“ von Ingrid Brodnig erscheint am 25. Februar 2026 im Brandstätter Verlag. Die Autorin hält am 23.2. und am 16.3. Lesungen in Wien sowie am 26.2. eine Lesung in Berlin.

Chris Köver recherchiert und schreibt über Migrationskontrolle, biometrische Überwachung, digitale Gewalt und Jugendschutz. Recherche-Anregungen und -Hinweise gerne per Mail oder via Signal (ckoever.24). Seit 2018 bei netzpolitik.org. Hat Kulturwissenschaften studiert und bei Zeit Online mit dem Schreiben begonnen, später eine eigene Zeitschrift mitgegründet. Ihre Arbeit wurden ausgezeichnet mit dem Journalistenpreis Informatik, dem Grimme-Online-Award und dem Rainer-Reichert-Preis zum Tag der Pressefreiheit. Kontakt: E-Mail (OpenPGP), BlueSky, Mastodon, Signal: ckoever.24. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Es gibt eine Petition zum Thema #BildbasierteGewalt und uns begegnet eine alte Bekannte: Es gibt #DigitaleGewalt im Netz, es wird nach Maßnahmen gerufen, die dringend nötig sind.

https://hateaid.org/petition-notyourbusiness/

Hier: werden wieder #Netzsperren gefordert. Keine gute Idee, aber, und hier singe ich seit Jahren dasselbe Lied: Es gibt auch keine anderen Vorschläge oder Initiativen, wie Betroffenen geholfen werden kann. Das reicht nicht.

Trotzdem sind Sperren durch Provider nicht die Lösung.

Irgendwie fand ich es komisch, dass plötzlich alle zuerst von #Deepfakes reden, wenn es um #bildbasierteGewalt geht. Als wäre das Problem nicht auch schon ernst gewesen, bevor der #KI-Hype ausgebrochen ist. Für @netzpolitik_feed habe ich aufgedröselt, was mich daran stört.

https://netzpolitik.org/2025/bildbasierte-gewalt-wo-war-die-empoerung-bevor-es-deepfakes-gab/