OpenAIs neueste KI-Modelle werden zwar immer besser, halluzinieren aber deutlich häufiger als ihre Vorgänger. Bei bestimmten Tests erreichten die "Reasoning"-Systeme GPT o3 und o4-mini Fehlerraten von bis zu 79% - ein Trend, der selbst die Entwickler rätseln lässt.
Die neuesten #KISysteme halluzinieren zunehmend, was derzeit bedingt, dass #kigeneriert|e Ergebnisse immer akribischer kontrolliert werden (müss(t)en). Wieso dies geschieht, kann #openai (noch) nicht genau sagen. Anscheinend unterliegt #chatgpt inzwischen selbst dem #elizaeffekt
#winfuture
OpenAIs neueste KI-Modelle werden zwar immer besser, halluzinieren aber deutlich häufiger als ihre Vorgänger. Bei bestimmten Tests erreichten die "Reasoning"-Systeme GPT o3 und o4-mini Fehlerraten von bis zu 79% - ein Trend, der selbst die Entwickler rätseln lässt.
Ich finde, diesen Artikel sollten alle komplett gelesen haben, die LLMs wie #ChatGPT benutzen oder sich damit auseinandersetzen.
Dieser Artikel ist zwar schon etwas älter, aber er lässt einen doch etwas nachdenken ...
#ChatGPT besteht den #TuringTest, gilt KI jetzt als intelligent? - Das Netz ist politisch https://dnip.ch/2024/07/15/chatgpt-besteht-den-turing-test-gilt-ki-jetzt-als-intelligent/ @nohillside #Chatbot #ElizaEffekt #ArtificialIntelligence #NaturalLanguageProcessing #NLP #MaschineLearning #DeepLearning #Digitalisierung #digitalization #MenschMaschineInteraktion #PromptEngineering #DNIP
#Chatbots – egal wie einfach oder komplex gemacht sie sind – nutzen den ELIZA-Effekt: eine Wahrnehmungsverzerrung, die Menschen dazu bringt, tendenziell zu glauben, was gut formuliert ist.
https://en.wikipedia.org/wiki/ELIZA_effect
Die fatale Tendenz, Chatbots zu anthropomorphisieren, wird verstärkt, wenn in diesem Zusammenhang von „künstlicher Intelligenz“ gesprochen wird. Wenn sie LLMs verwenden, dann sagt das und nicht „KI“.
Vielleicht ist es weniger fatal, Chatbots mit Tieren zu vergleichen. @emilymbender hat dafür „stochastische Papageien“ vorgeschlagen.
Wenn ich lese, was @lcamtuf dazu schreibt, bin ich entgegen seiner Empfehlung doch versucht, Chatbots zu vermenschlichen – als Trickbetrüger.
https://lcamtuf.substack.com/p/llms-are-better-than-you-think-at
#Chatsbot #llm #bard #GoogleBard #ChatGPT #OpenAI #ELIZA #ElizaEffekt #ElizaEffect
Ulrich Junker
Sascha Foerster 
Mondenfee
Marcel SIneM(S)US
Christian Pietsch (old acct.)