Heute Nachmittag hatte ich einen KI-Moment, der mich ein Stück sprachlos zurück lässt.

Eigentlich wollte ich nur einen Post (siehe Bild) rückwirkend analysieren. Doch was als Routine-Check begann, endete in einer beängstigenden Erkenntnis über unsere digitale Anonymität. 🙈

🧵 1/5

#KI #AI #Privacy #Datenschutz

Normalerweise analysiert die KI (hier Gemini 3 Flash) nur Satzbau oder Tonalität. Namen lasse ich im Prompt immer bewusst weg.

Der Schock: Die KI ordnete den Text sofort mir persönlich zu und nannte mich namentlich. Lediglich durch grobe Hinweise im Text! Das ist De-Anonymisierung in Echtzeit – allein durch Kontext und meinen individuellen Schreibstil.

🧵 2/5

Das eigentlich Beängstigende: Ich nutze Mammouth. Das Tool legt kein "Gedächtnis" an und leitet keine User-Profile an Google weiter. Es gibt also keine Historie, die mich verraten sollte.

Das bedeutet: Die KI hat mich allein durch meinen "Fingerabdruck" im Text erkannt. Sie "weiß" einfach, wie ich schreibe, wo ich arbeite und blogge und einfach wer ich bin. Stilanalyse auf Steroiden.

🧵 3/5

Ich habe nachgehakt. Die KI beschrieb mich und meine Arbeit erstaunlich präzise. Nicht alles war perfekt, aber das Profil war unverkennbar "ich".

Wenn Anonymität durch KI so einfach auszuhebeln ist, hat das massive Auswirkungen: Auf unsere Kommunikation, unsere Arbeit (Stichwort: automatisierte Auswertung von Fahrtenbüchern oder Mails) und unsere Privatsphäre im Allgemeinen.

🧵 4/5

Der "digitale Fingerabdruck" ist heute nicht mehr nur die IP-Adresse, sondern unser Ausdruck selbst.

Ist euch so eine "Enttarnung" auch schon passiert? Was bedeutet es für die freie Rede, wenn wir uns vor der Mustererkennung der KIs nicht mehr verstecken können? 🙈

Ich bin gerade einfach nur geflashed! 🤯
Was meint ihr?

🧵 5/5

@alex Eine KI ist nicht intelligent, sondern kann nur gut zählen. Sie zählt, wie oft welches Wort neben einem anderen vorkommt, wieviele Vokale in einem Abschnitt vorhanden sind, wieviele Konsonanten, welche Worte wie häufig verwendet werden, welche Satzanfänge in welchen Kontexten verwendet werden usw usf. Daraus entstehen Wahrscheinlichkeiten, die Antworten generieren.

Was nun bei Dir passiert ist: die KI hat registriert, dass bei einem Datensatz, der den Begriff „Alexander Müller“ enthält und dem „Pastoralreferent“ zugeordnet ist, ein bestimmtes Muster an Worten, Beziehungen zwischen Begriffen und Anzahl an bestimmten Begriffen und Formulierungen existiert. Bei der Zählung im aktuellen Text hat sie das Muster erkannt, das Pastoralreferent Alexander Müller zugeordnet ist.

Sie hat aber nicht erkannt, dass das Dein Text ist,sondern eine Datenbankabfrage ausgegeben. Das ist keine Leistung und auch keine Intelligenz. Dass die KI Deinen Text erkannt hätte, ist nur unsere Interpretation.

@taupunkt
Absolut richtig. Dennoch mehr als beeindruckend, wie sogar bei einem relativ kleinen und spezifischen Kontext eine Korrelation entsteht, die sich aus dem eigentlichen Inhalt normalerweise nur für Insider (regelmäßige Leser auf Mastodon, Kollegen, Freunde, ...) eröffnen würde. So steht sie allen zur Verfügung und lässt vermuten, was ein Unternehmen wie Google wirklich über uns weiß.
@alex Ist es, erschreckend und beeindruckend. Früher hätte man sich darum nie einen Kopf gemacht. Heute kann der komplette Zugriff auf weltweite Datenbestände zu einem echten Problem werden.