Theresa BäuerleinWie Russland ChatGPT & Co mit Propaganda füttert – ohne dass du es merkst
Du fragst ChatGPT nach dem Ukrainekrieg.
Die Antwort klingt sachlich , aber Russland kommt erstaunlich gut weg.
Das ist kein Zufall 🧵👇
Laut einer Analyse von NewsGuard geben viele KI-Chatbots russische Propaganda wieder.
Darunter ChatGPT, Copilot, Grok, Gemini, Claude, Pi, Meta AI, Perplexity und andere.
Darunter ChatGPT, Copilot, Grok, Gemini, Claude, Pi, Meta AI, Perplexity und andere.
Getestet wurden 15 gezielt verbreitete Falschmeldungen aus einem Netzwerk von 150 kremlnahen Websites. In rund einem Drittel der Fälle wiederholten die KIs den Inhalt – ohne Warnung oder Einordnung.
Hinter der Kampagne steht ein Netzwerk namens „Pravda“ – russisch für „Wahrheit“. Seit 2022 produziert es systematisch prorussische Inhalte, in zahlreichen Sprachen.
Diese Texte sind nicht für Menschen gedacht. Sie sollen nicht gelesen, sondern eingesammelt werden – von sogenannten Crawlern, also Programmen, mit denen KI-Anbieter das Netz nach Trainingsmaterial durchsuchen.
Crawlers lesen und speichern automatisch Inhalte aus dem Netz. Die KIs lernen daraus, welche Begriffe, Aussagen und Muster wie häufig vorkommen. Und verwenden sie später in ihren Antworten.
2024 wurden laut NewsGuard rund 3,6 Millionen solcher Artikel veröffentlicht. Sie sind technisch so gebaut, dass sie den Crawlern besonders gut „gefallen“.
Nicht direkt für dich geschrieben also, aber für die Maschine, die dir später antwortet.
Nicht direkt für dich geschrieben also, aber für die Maschine, die dir später antwortet.
Das Ziel: sogenannte „LLM-Grooming“. Die Trainingsdaten der Sprachmodelle sollen so manipuliert werden, dass Propaganda als plausibler Inhalt erscheint.
Denn KIs gewichten nicht nach Wahrheit – sondern nach Wahrscheinlichkeit.
Denn KIs gewichten nicht nach Wahrheit – sondern nach Wahrscheinlichkeit.
Was oft vorkommt, erscheint der KI als „richtig“. Wird also tausendfach behauptet, der Westen sei am Krieg schuld, steigt die Wahrscheinlichkeit, dass ein Chatbot genau das später wiedergibt.
Und nicht nur beim Training: Auch bei Echtzeit-Suchen, etwa über Perplexity oder Bing, tauchen prorussische Quellen überdurchschnittlich oft auf.
Weil sie technisch gut gebaut, regelmäßig aktualisiert und in großer Zahl vorhanden sind.
Weil sie technisch gut gebaut, regelmäßig aktualisiert und in großer Zahl vorhanden sind.
Die KI prüft nicht, ob eine Quelle glaubwürdig ist. Sie prüft, wie oft etwas vorkommt, wie gut es verlinkt ist, wie „relevant“ es wirkt. Genau das macht Propaganda so wirksam in diesem System.
Die Analyse stammt von NewsGuard, einem privaten US-Unternehmen, das die Vertrauenswürdigkeit von Online-Medien bewertet. NewsGuard steht selbst in der Kritik, etwa wegen mangelnder Transparenz. Dennoch ist die Untersuchung relevant.
Denn sie arbeitet systematisch, benennt konkrete Beispiele und testet eine breite Palette an Chatbots unter kontrollierten Bedingungen. Die Ergebnisse lassen sich nachvollziehen.
Wir stehen an einem Punkt, an dem nicht mehr nur Menschen gezielt desinformiert werden, sondern die Systeme, auf die wir unser Wissen der Zukunft stützen.
U.Lancier@bojerlanski Neuentwicklungen von LLMs sollten eine Prüfung bei Trainingsdaten beinhalten, ob diese von LLMs oder von Menschen erstellt wurden. Und alles von LLM stammende ignorieren.
leckse@Ulan_KA @bojerlanski Wenn die das könnten, würden die ohnehin wissen, wie man das auch unterwandern kann.
Derzeit gilt noch nicht mal die Kennzeichnungspflicht (der AI Act gilt erst ab August 2026). Und dass sich kremlnahe Propagandaoutlets daran halten würden, ist wohl auch nicht zu erwarten.