"ohne Halluzinationen" — Glaube ich denen nicht. OpenAI sagt selbst, dass die mathematisch unvermeidlich sind:
https://www.computerworld.com/article/4059383/openai-admits-ai-hallucinations-are-mathematically-inevitable-not-just-engineering-flaws.html
Und heise.de neulich dazu:
https://www.heise.de/blog/Wie-Goedel-und-Turing-die-Grenzen-von-KI-vorgezeichnet-haben-11308945.html
In a landmark study, OpenAI researchers reveal that large language models will always produce plausible but false outputs, even with perfect data, due to fundamental statistical and computational limits.
Aus den AGB von parlament.ai: "Aufgrund der probabilistischen Natur von Machine Learning können KI-generierte Inhalte fehlerhaft, unvollständig oder irreführend sein. Wir übernehmen keine Gewähr für die Richtigkeit, Vollständigkeit oder Aktualität der generierten Informationen".
@timetunnel @sixtus "Wir lösen das Halluzinationsproblem nicht mit Versprechen, sondern mit Verifikation. Jede Antwort zitiert die exakte Stelle im Bundestagsdokument."
sie lösen nicht das halluzinationsproblem
stattdessen wird ein RAG eingefĂĽhrt um aussagen verifizierbar zu machen
der aufwand der recherche und verifikation bleibt weiterhin den nutzenden ĂĽberlassen
Ah, ok, den Teil hatte ich nicht gesehen. Dann ist aber deren FAQ irrefĂĽhrend, in der "keine Halluzinationen" steht.
Oliver Brux
Mario Sixtus đź‡đź‡°é¦¬ĺ…
Barbara Niedner
Oliver Pfleiderer 🇬🇱
edanomil
timetunnel
eichkat3r