Mastodawn

(In der Vergangenheit haben wir Diagramme gemalt, um Probleme zu verstehen, und Code geschrieben, um aus Diagrammen Software zu bauen. Einige Jahre später biegen wir an Nuancen und Mehrdeutigkeiten natürlichsprachiger Formulierungen, um nichtdeterministische Systeme unter komplett fremder Kontrolle zu deterministischen Ergebnissen zu bewegen, und wundern uns, warum die Qualität hinter den Erwartungen zurückbleibt. Referenzmodelle, Stabilitäten, Unsicherheiten. Die Menge an Fragen wird nicht kleiner.) #outerworld #model_conversations #stories_of_technologies_and_worldviews

Show thread

andre 1d ago

@z428 Dieser Nicht-Determinismus nervt mich extrem.

Und wenn dann noch Leute sagen, wenn nicht das Richtige herauskommt: "Du musst besser prompten." 😡

Show thread

Kristian 1d ago

@a32 Ja, es ist halt eine unfassbare Bastelei mit jeder Menge seltsamen Unbekannten. Hier etwa: RAG-Lösung, bei bei einer bestimmten Länge von Nutzeranfragen die Maschine Teile des Systemprompts drumherum schlicht ignoriert, und dann in der falschen Sprache antwortet, in Markdown antwortet, heftiger als sonst zu halluzinieren beginnt, ... . Hab schon überlegt, mir ein "LLM doing LLM things" - Shirt drucken zu lassen. Mit systematischer Ingenieursarbeit scheint das nur noch am Rande zu tun zu haben.

Show thread

Kristian

@a32 (Und der Umstand, dass vieles davon gegen Modelle geht, die auf irgendeiner externen Cloud liegen und von heute auf morgen ihr Verhalten ändern können, ist da noch gar nicht bedacht.🙈)