Alexander MüllerMar 6

Heute Nachmittag hatte ich einen KI-Moment, der mich ein Stück sprachlos zurück lässt.

Eigentlich wollte ich nur einen Post (siehe Bild) rückwirkend analysieren. Doch was als Routine-Check begann, endete in einer beängstigenden Erkenntnis über unsere digitale Anonymität. 🙈

🧵 1/5

#KI #AI #Privacy #Datenschutz

Show threadAlexander Müller

Normalerweise analysiert die KI (hier Gemini 3 Flash) nur Satzbau oder Tonalität. Namen lasse ich im Prompt immer bewusst weg.

Der Schock: Die KI ordnete den Text sofort mir persönlich zu und nannte mich namentlich. Lediglich durch grobe Hinweise im Text! Das ist De-Anonymisierung in Echtzeit – allein durch Kontext und meinen individuellen Schreibstil.

🧵 2/5

Mar 6 at 5:43pmWeb
Show threadAlexander MüllerMar 6

Das eigentlich Beängstigende: Ich nutze Mammouth. Das Tool legt kein "Gedächtnis" an und leitet keine User-Profile an Google weiter. Es gibt also keine Historie, die mich verraten sollte.

Das bedeutet: Die KI hat mich allein durch meinen "Fingerabdruck" im Text erkannt. Sie "weiß" einfach, wie ich schreibe, wo ich arbeite und blogge und einfach wer ich bin. Stilanalyse auf Steroiden.

🧵 3/5

Show threadAlexander MüllerMar 6

Ich habe nachgehakt. Die KI beschrieb mich und meine Arbeit erstaunlich präzise. Nicht alles war perfekt, aber das Profil war unverkennbar "ich".

Wenn Anonymität durch KI so einfach auszuhebeln ist, hat das massive Auswirkungen: Auf unsere Kommunikation, unsere Arbeit (Stichwort: automatisierte Auswertung von Fahrtenbüchern oder Mails) und unsere Privatsphäre im Allgemeinen.

🧵 4/5

Show threadAlexander MüllerMar 6

Der "digitale Fingerabdruck" ist heute nicht mehr nur die IP-Adresse, sondern unser Ausdruck selbst.

Ist euch so eine "Enttarnung" auch schon passiert? Was bedeutet es für die freie Rede, wenn wir uns vor der Mustererkennung der KIs nicht mehr verstecken können? 🙈

Ich bin gerade einfach nur geflashed! 🤯
Was meint ihr?

🧵 5/5

Show threadJohannes BrakensiekMar 6
@alex Ok, der Algorithmus sagt aber zuerst schon, dass er das über die Zuordnung des Accounts gemacht hat. Da war also keine Anonymität im Post. 😉
Show threadHansMar 6
@letterus @alex
Ist schon unheimlich.
Show threadAlexander MüllerMar 6
@letterus
Ja, da hast du im Prinzip Recht. Dennoch ist es bemerkenswert und zeigt, wie weit wir bereits nach 3(?!) Jahren KI sind.
Die Erfahrung hätte ich trotzdem nicht gebraucht.
Show threadJohannes BrakensiekMar 6

@alex Ich denke, 3 Jahre ist dann doch zu krass: https://de.wikipedia.org/wiki/K%C3%BCnstliches_neuronales_Netz

Also: Funktionierende Modelle seit ca. 20 Jahren, Forschung gibt es vermutlich bereits so lange es Informatik gibt.

Künstliches neuronales Netz – Wikipedia

Show threadtaupunktMar 6

@alex Eine KI ist nicht intelligent, sondern kann nur gut zählen. Sie zählt, wie oft welches Wort neben einem anderen vorkommt, wieviele Vokale in einem Abschnitt vorhanden sind, wieviele Konsonanten, welche Worte wie häufig verwendet werden, welche Satzanfänge in welchen Kontexten verwendet werden usw usf. Daraus entstehen Wahrscheinlichkeiten, die Antworten generieren.

Was nun bei Dir passiert ist: die KI hat registriert, dass bei einem Datensatz, der den Begriff „Alexander Müller“ enthält und dem „Pastoralreferent“ zugeordnet ist, ein bestimmtes Muster an Worten, Beziehungen zwischen Begriffen und Anzahl an bestimmten Begriffen und Formulierungen existiert. Bei der Zählung im aktuellen Text hat sie das Muster erkannt, das Pastoralreferent Alexander Müller zugeordnet ist.

Sie hat aber nicht erkannt, dass das Dein Text ist,sondern eine Datenbankabfrage ausgegeben. Das ist keine Leistung und auch keine Intelligenz. Dass die KI Deinen Text erkannt hätte, ist nur unsere Interpretation.

Show threadAlexander MüllerMar 6
@taupunkt
Absolut richtig. Dennoch mehr als beeindruckend, wie sogar bei einem relativ kleinen und spezifischen Kontext eine Korrelation entsteht, die sich aus dem eigentlichen Inhalt normalerweise nur für Insider (regelmäßige Leser auf Mastodon, Kollegen, Freunde, ...) eröffnen würde. So steht sie allen zur Verfügung und lässt vermuten, was ein Unternehmen wie Google wirklich über uns weiß.
Show threadtaupunktMar 6
@alex Ist es, erschreckend und beeindruckend. Früher hätte man sich darum nie einen Kopf gemacht. Heute kann der komplette Zugriff auf weltweite Datenbestände zu einem echten Problem werden.
Show threadFediVerseExplorerMar 6
@alex
Könnte es sein, dass die Zuordnung über eine andere Ecke erfolgte? Hast Du vielleicht einen Google Account? Wurde ein Schattenprofil gefunden? Möglicherweise hat der Umweg über Mammoth keine Pseudonymisierung gebracht. Browserdaten/ Fingerprint...?
Show threadAlexander MüllerMar 6

@fexplorer Ich habe es mit einem nicht veröffentlichten Post nochmal probiert und da hat es nicht funktioniert.

Ich gehe davon aus, das der Kontext ausschlaggebend war und nicht ein Schattenprofil. Ich habe es sogar auf einem Google-freien Handy (erst vor einer Woche installiert) über Firefox angefragt.

Der Kontext lässt natürlich nur eine begrenzte Personenzahl zu. Für Insider bin ich da naheliegend. Für externe, wozu ich bisher eine KI gezählt habe, eigentlich nicht.

Show threadAndreas MenneMar 6
@alex Seltsam wirkt auf mich erstmal, dass der sehr unspezifische #Prompt (analysiere den Post) überhaupt dazu führt, dass die #KI nach einem #Urheber sucht. Woher kommt das? Setzen sich hier klassische Konzepte der Texthermeneutik durch (der #Autor lebt länger, als man denkt)? Oder hat sich die KI das aus #Trainingsdaten abgeschaut, in denen solche #Identifikationsverfahren durchgeführt werden? Oder... habt ihr eine bessere Idee?
Show threadAlexander MüllerMar 6
@menneboy
Die Fragestellung nutze ich öfters. Eine solche Antwort ist für mich neu. Es zeigt natürlich, dass andere möglicherweise nach Profilbildung und Identifikation fragen und ganz besonders, dass Gemini dahingehend trainiert worden ist.
Show threadCerstin MahlowMar 7
@alex Hm, das ist nicht hauptsächlich durch Deinen Schreibstil passiert, sondern über „bei uns“ und die Nennung des Attendorn-Accounts. Wer auch immer da schreibt, ist also diesem Account sehr nah. Und dann kann man vermutlich recht eindeutig abzählen, wer am häufigsten den Account erwähnt oder sogar in der Registrierung damit verknüpft ist. Das hat mit Deinem persönlichen Stil nichts zu tun, ist trotzdem gruselig
Show threadAlexander MüllerMar 7
@CerstinMahlow
Ja, das hat mich im Nachhinein auch nochmal beschäftigt. Zur Stilfrage habe ich mich wahrscheinlich durch einen weiteren Punkt in der Antwort leiten lassen, die explizit auf den Schreibstil und die verwendeten Emojis eingegangen ist.
Show threadIchMeineMar 7

@alex
Zur Klarifikation: Dass es eine rückwirkende Analyse ist heißt, dass der Post schon veröffentlicht war zum Zeitpunkt des Prompts?

Wenn das der Fall ist, kann nicht eine Volltextsuche auch den Post selber finden? Damit wäre eine Zuordnung weit einfacher.

Show threadAlexander MüllerMar 7
@IchMeine Ja, der Post war bereits ca. 20 Minuten online.