Ist euch auch schon aufgefallen, dass man an Themen, in denen man sich gut auskennt, erst so richtig merkt, wie schlecht der Output von LLMs ist?
Wenn das stimmt, bedeutet das, dass Leute, die sich allzu sehr von LLMs beeindrucken lassen, insgesamt wenig Ahnung haben.
Das ist offensichtlich. LLM ist nicht dazu da, Menschen zu beeindrucken. Es ist ein Werkzeug, das unterstützen und weiterhelfen kann. Insbesondere dort, wo man sich nicht so gut auskennt. Das enthebt aber niemanden der Pflicht und Verantwortung, das Ergebnis zu prüfen.
Das "von vorneherein einarbeiten" ist unter Umständen sehr zeitaufwändig.
Beispiel: Ich möchte ein Shellskript, welches mir aus einer Anzahl von Text-Dateien bestimmte Inhalte extrahiert. Natürlich kann ich mich vorab in die Syntax der Dateien sowie sed und awk einarbeiten. Wenn ich weiß, was ich will, und mich auskenne, spart mir die LLM einen Tag Arbeit, da ich mit vorhandener Kompetenz den Lösungsprozess steuern und das Ergebnis verstehen kann. Ich bekomme es sogar erklärt.
Manager und Politiker, die sagen "hier, so isses, der computer gibt mir recht!" haben den falschen Job.
Ein LLM wird, basierend auf den vorhandenen Daten, ganz sicher richtig arbeiten.
Aber Managen und gesellschaftsverträgliche Politik sind eben mehr als "Ergebnisse zu verkünden".
Und – offen gesagt – würde ich aktuell einem guten LLM mehr Ehrlichkeit bei der Interpretation der Ergebnisse zutrauen als den offiziell verantwortlichen Personen.
@_RyekDarkener_
So richtig wie das die Trainingsdaten zulassen. In Nischendomänen und in Domänen, wo Mythen Fakten quantitativ ausstechen, wird ein allgemeines LLM immer schlechte Ergebnisse liefern. Bei Newtonscher Bewegung wird sie dagegen recht akkurat sein.
Kontextbewusstsein und kritisches Hinterfragen sollte man nie ausschalten, egal mit wem man chattet.
@_RyekDarkener_
Hätt' ich fast vergessen, man muss auch wissen wo LLMs grundsättlich versagen, zb können sie nicht rechnen...
Enno Park
Ryek Darkener
Alexander Goeres 𒀯
Heinrichsgeist