Ich habe es heute Morgen schon in einem Thread geschrieben, aber ich wollte es noch mal separat posten:

In einem LLM ist nicht irgendwo 'die Wahrheit' versteckt, die man mit einem geschickten Prompt herauskitzeln kann. Da ist keine Wahrheit, da ist auch kein Unsinn, da ist nur Text. Das Modell hat keine Ahnung, welcher Output korrekt oder sinnvoll ist. Es weiß nur, welche Wortkombinationen häufiger vorkommen.

Vielleicht ist es tröstlich, dass die Wahrheit offenbar häufiger vorkommt als die Lüge, weshalb ein gewisser Prozentsatz der Antworten stimmt – aber falsche Bezüge kommen mindestens genauso häufig vor wie richtige. Wenn es eine Wahrheit oder Sinnhaftigkeit im Output gibt, lesen wir Menschen die hinein.

Es macht auch keinen Sinn, ein LLM zu instruieren: 'Sag ruhig, wenn du es nicht weißt, und komm mir bloß nicht mit Vermutungen.'

Woher soll ChatGPT wissen, was eine Vermutung ist oder Bullshit und was stimmt? Es ist ein statistischer Wortgenerator. Irgendeine Antwort hat immer den höchsten Wahrscheinlichkeitswert. Und es gibt keinen definierten Grenzwert zwischen Wahrheit und Unsinn. Nur weil das Ding, wenn man es dazu auffordert, ab und an 'Ich weiß es nicht' ausspuckt (und damit sagt, was du hören willst), erhöht das nicht die Wahrscheinlichkeit, dass die Antworten, die es gibt, korrekt sind.

Aus diesem Grund ist es auch dringend zu empfehlen, LLMs zu meiden bei Themen, bei denen ich mich nicht auskenne. Wenn ich selbst zu den Fachleuten gehöre, kann ich die Spreu vom Weizen trennen. Dann kann es manchmal eine ganz nette Inspiration oder ein Shortcut sein, zu schauen, was ein LLM ausspuckt. Aber wenn ich nicht weiß, was Spreu ist und was Weizen, dann werde ich es von einem LLM nicht erfahren.

Wir haben Mastodon für unsere Familie eingerichtet. Wir nutzen Mastodon, um unseren Geschwistern, Eltern, Tanten, Großeltern Bilder aus unserem Familien-Alltag zu schicken. Das klappt gut und ich finde es viel besser, als irgendeinen US-Service zu verwenden.

https://rosetree.de/blog/2025/mastodon-familie/

An dieser Stelle: Danke @markus! Er ist unser Administrator und das Hosting läuft problemlos 👏

#Mastodon #Familie #SocialMedia #Privacy #Kinder

Wissenschaftler:innen haben herausgefunden: Wer ChatGPT oder andere Bullshit-Generatoren nutzt, verblödet innerhalb kurzer Zeit.

https://arxiv.org/abs/2506.08872

#LLM #GenAI #ChatGPT #Copilot #Verblödung