Diesen #Simulacrum Effekt von #ChatGPT habe ich so auf den Punkt noch in keinem anderen Video gesehen: einmal ist die Ausgabe der oft gepostet, ausgedachte Quatsch. Mit dem Vorsatz „du bist Experte für…“ kommt hingegen eine exzellente Antwort. Wichtig zu beachten für eigene Experimente.
Das ganze Video von @AlexK0815 ist sehr sehenswert, und dann auch noch von der Firma meiner Frau @wortkomplex :
1Der Ausschuss gibt eine Stellungnahme ab, wenn die zuständige Aufsichtsbehörde beabsichtigt, eine der nachstehenden Maßnahmen zu erlassen. 2Zu diesem Zweck übermittelt die zuständige Aufsichtsbehörde dem Ausschuss den Entwurf des Beschlusses, wenn dieser der Annahme einer Liste der Verarbeitungsvorgänge dient, die der Anforderung einer Datenschutz-Folgenabschätzung gemäß Artikel 35 Absatz 4 unterliegen, eine Angelegenheit gemäß Artikel 40 … Art. 64 DSGVO – Stellungnahme des Ausschusses weiterlesen
Ist korrekt - das war die Stelle an der ich meinte, dass man das Ergebnis jetzt noch umformulieren könnte - exakt weil mir die vergeigte Formulierung aufgefallen war.
Die Modelle "verstehen" durchaus - wie sehr versucht ja z.B. der GLUE benchmark (general language understanding evaluation) zu messen. Es stimmt aber, dass ich stärker auf die Gefahr hätte hinweisen können, dass das Model falschen Output erzeugt ohne dass es dem Nutzer auffällt.
Durch retrieval augmentation, selection/inference separation und andere Techniken wird sich das verbessern. Recht interessantes Paper dazu ist z.B. "Faithful Reasoning Using LLMs" von Antonia Creswell. Das Modell agiert da schrittweise und fragt sich nach jedem Schritt "Kann ich die Antwort wissen?" Ich denke, dass wir bald auch zu nachvollziehbaren Argumentationspfaden und vertrauenswürdigeren Ergebnissen kommen.
Ralf Stockmann
Max von Webel
AlexK0815