netzpolitik.org
Manche Nutzer:innen lassen sich Wikipedia-Artikel von Sprachmodellen generieren, inklusive erfundener Referenzen. Ein Wikipedia-Urgestein stolperte zufällig über die halluzinierten Artikel – ausgerechnet mit der Hilfe von einem Sprachmodell, berichtet @leopleop https://netzpolitik.org/2025/erfundene-quellen-wie-chatbots-die-wikipedia-vergiften/
Erfundene Quellen: Wie Chatbots die Wikipedia vergiften

Manche Nutzer:innen lassen sich Wikipedia-Artikel von Sprachmodellen generieren, inklusive erfundener Referenzen. Ein Wikipedia-Urgestein stolperte zufällig über die halluzinierten Artikel – ausgerechnet mit der Hilfe von einem Sprachmodell.

netzpolitik.org
Dec 29 at 5:41pmWeb
Show threadmaexchen1Dec 29

@netzpolitik_feed

Huch, ich dachte immer die #Wikipedia Artikel werden auf Herz und Nieren geprüft.

Wie kann da eine erfundene #Referenz einzug halten?

@leopleop

Show threadsmialDec 29

@maexchen1

Welche QS in professionellem Umfeld schafft eine Fehlerquote unter 0,005 Prozent?

@netzpolitik_feed @leopleop

Show threadmaexchen1Dec 29

@smial

Eine erfundene Referenz ist wie eine falsche Schraube nehmen.

Es geht ja nicht mal um den Inhalt der Referenz die falsch interpretiert werden könnte.

Von daher sollte es in deinem Beispiel jedes Unternehmen hinbekommen.

Und wie kommst du auf die Zahl?

Der falsche Artikel wurde ja "zufällig" gefunden.

Das könnte nur die Spitze vom Eisberg sein.

@netzpolitik_feed @leopleop

Show threadsmialDec 29

@maexchen1 schrub: "Und wie kommst du auf die Zahl?"

Nun, ich habe den Artikel komplett gelesen.

@netzpolitik_feed @leopleop