Eva WolfangelDec 20, 2022
Was ich noch interessanter fand in meiner Recherche über #ChatGPT als die philosophischen Aspekte, ist, was wir aus der ganzen Sache über uns lernen können: Wie Sprache, Verstehen und Intelligenz zusammenhängen (oder eben nicht), und welcher "kognitive Glitch" in unserem Gehirn dazu führt, dass wir eloquentes Daherplappern als glaubhaft/sinnvoll/intelligent wahrnehmen: https://www.spektrum.de/news/maschinelles-lernen-chatgpt-wird-immer-plappern/2090727
#NLP #llm #gpt3
Das sprachgewaltige Plappermaul

Der »intelligente« Chatbot ChatGPT entwirft überzeugende Texte – aber redet oft Unsinn. Wirklich lösen lässt sich das Problem nicht, denn das liegt nur zum Teil an der Technik.

Spektrum.de
Show threadDavid Bruchmann

@evawolfangel

> »Wenn der Kunde dann anfängt, über den Islam zu sprechen, wissen Sie nicht, wie das Modell reagiert – Sie können ihm nur blind vertrauen. Und das ist das Gefährlichste, was Sie tun können.«

Ist sicher richtig, ironischerweise existiert das Problem bei Menschen allerdings auch.

Dec 20, 2022 at 7:28amWeb
Show threadmosmannDec 20, 2022
@davidbruchmann @evawolfangel .. aber Menschen zweifeln wir an, Maschinen nicht.. da haben wir die kollektive Illusion, dass die Maschine keinen Fehler macht.
Show threadEva WolfangelDec 20, 2022
@mosmann @davidbruchmann Genau, das sehe ich als riesiges Problem. Nicht immer ist Rassimus zb zudem so offensichtlich in den entscheidungen einer KI - und tatsächlich glauben noch immer viele Menschen, diese sei "neutral" oder "richtig".
Show threadDavid BruchmannDec 20, 2022
@evawolfangel @mosmann Ich denke, manche Aufgaben sollten zumindest beim Lernen, von konkurierenden Systemen bearbeitet werden und die Diskrepanzen ausgewertet werden. Das erfordert natürlich abweichende Daten oder Parameter deren Auswahl auch biased ist. Trotzdem könnten Schwachstellen dadurch vermutlich aufgedeckt werden.
Bei Geschäftsprozessen gibt es ja das 4-Augen Prinzip, das wäre vielleicht vergleichbar, zumindest erklärt es den Ansatz.
Show threadDavid BruchmannDec 20, 2022
@evawolfangel @mosmann Der Begriff "konkurierenden Systeme" ist wahrscheinlich falsch hier, da "konkurierenden Systeme" vermutlich bereits eine Lösung ausfiltern.
Gemeint war, dass der Lernprozess einfach mehrfach parallel ausgeführt wird, aber mit unterschiedlichen Daten oder Parametern, so dass man zwei oder mehr Lösungen zum Vergleich vorliegen hat.
"Parallel" bezieht sich auf die gleiche Ausgangsbasis, die Lernprozesse bauen also NICHT aufeinander auf.
Show threadmosmannDec 20, 2022
@davidbruchmann @evawolfangel .. Transparenz über die Herleitung der Ergebnisse wäre wünschenswert, einbezogene Quellen sollten aber möglich sein.
Show threadDavid BruchmannDec 20, 2022

@mosmann @evawolfangel Die Anforderung ist sicher am Schwierigsten zu realisieren:

1) Relavante Quellen finden.

2) Relevante Textstellen in den Quellen mit der Logik des Textes zu kombinieren und den Text entsprechend anzupassen.

Wenn es das zur Zeit der Promotion von Karl-Theodor zu Guttenberg gegeben hätte, hätter er sicher nicht einmal Copy & Paste gelernt 😂