Heute Nachmittag hatte ich einen KI-Moment, der mich ein Stück sprachlos zurück lässt.

Eigentlich wollte ich nur einen Post (siehe Bild) rückwirkend analysieren. Doch was als Routine-Check begann, endete in einer beängstigenden Erkenntnis über unsere digitale Anonymität. 🙈

🧵 1/5

#KI #AI #Privacy #Datenschutz

Normalerweise analysiert die KI (hier Gemini 3 Flash) nur Satzbau oder Tonalität. Namen lasse ich im Prompt immer bewusst weg.

Der Schock: Die KI ordnete den Text sofort mir persönlich zu und nannte mich namentlich. Lediglich durch grobe Hinweise im Text! Das ist De-Anonymisierung in Echtzeit – allein durch Kontext und meinen individuellen Schreibstil.

🧵 2/5

Das eigentlich Beängstigende: Ich nutze Mammouth. Das Tool legt kein "Gedächtnis" an und leitet keine User-Profile an Google weiter. Es gibt also keine Historie, die mich verraten sollte.

Das bedeutet: Die KI hat mich allein durch meinen "Fingerabdruck" im Text erkannt. Sie "weiß" einfach, wie ich schreibe, wo ich arbeite und blogge und einfach wer ich bin. Stilanalyse auf Steroiden.

🧵 3/5

Ich habe nachgehakt. Die KI beschrieb mich und meine Arbeit erstaunlich präzise. Nicht alles war perfekt, aber das Profil war unverkennbar "ich".

Wenn Anonymität durch KI so einfach auszuhebeln ist, hat das massive Auswirkungen: Auf unsere Kommunikation, unsere Arbeit (Stichwort: automatisierte Auswertung von Fahrtenbüchern oder Mails) und unsere Privatsphäre im Allgemeinen.

🧵 4/5

@alex Seltsam wirkt auf mich erstmal, dass der sehr unspezifische #Prompt (analysiere den Post) überhaupt dazu führt, dass die #KI nach einem #Urheber sucht. Woher kommt das? Setzen sich hier klassische Konzepte der Texthermeneutik durch (der #Autor lebt länger, als man denkt)? Oder hat sich die KI das aus #Trainingsdaten abgeschaut, in denen solche #Identifikationsverfahren durchgeführt werden? Oder... habt ihr eine bessere Idee?
@menneboy
Die Fragestellung nutze ich öfters. Eine solche Antwort ist für mich neu. Es zeigt natürlich, dass andere möglicherweise nach Profilbildung und Identifikation fragen und ganz besonders, dass Gemini dahingehend trainiert worden ist.