Pünktlich zur #bibliocon24 starten wir im VÖBB einen neuen, experimentellen Dienst: den VÖBB-Chatbot. Als meines Wissens erste (?) deutsche Bibliothek kombinieren wir hier Sprachtalent und "Wissen" eines Large Language Models (#LLM) mit den vollständigen Metadaten unseres #VÖBB Kataloges (als sog. Embedding).
Ein thread: 🧵
1/6
Gerade als KI-Kritiker (zu denen ich mich auch zähle) sollte man so eine Anwendung feiern:
KI sollte Dinge die banal und nervig sind (Katalog nach Buch durchsuchen) vereinfachen bzw. übernehmen.
So wird im besten Fall die Zeit der Mitarbeiter:innen freigemacht für wichtige Dinge, die nur von Menschen sinnstiftend verrichtet werden können.
Ja, funktioniert noch nicht. Es ist ja erstmal ein Experiment.
Das kommt bei LLMs auf die Trainingsdaten an.
In unserer Firma nutzen wir ein LLM um das Unternehmens Wiki zu durchsuchen.
Das geht immerhin besser als die Original Suchfunktion der Wiki-Software.
Darüber hinaus gibt es ja auch andere Machine Learning Lösungen.
@astefanowitsch
Das ist als würdest du sagen ein Klimamodell sei ein „Zufallsgenerator“.
Ja, es arbeitet mit Wahrscheinlichkeiten (oder Gewichten), aber die sind eben kein „Zufall“, sondern das Ergebnis eines Trainingsprozesses.
Daher ist ein LLM immer nur so gut wie dieser Trainingsprozess und die genutzten Daten.
Wenn die gut gewählt sind und zum Anwendungsfall passen, erzielen sie gute Ergebnisse.
Die „generischen“ LLMs wie ChatGPT liefern deshalb auch nur generische Antworten.
@astefanowitsch siehe 5/6 - allein die flexible Sprache überwindet so viele Barrieren. Privilegien und so.
Darüber wird m.E. in der aufgeheizten KI-Debatte zu wenig geredet: Abbau von Barrieren. Etwa: Fragen können in jeder erdenklichen Sprache gestellt werden. Auch ungelenke Fragen werden zuverlässig richtig interpretiert. Vage Umschreibungen führen viel besser zum Ziel als beim auf Präzision ausgelegten OPAC. All das macht unseren Bestand zugänglicher. https://www.voebb.de/info-chatbot Wir durchlaufen jetzt einen "Soft Launch", ohne das zunächst an die große Glocke zu hängen. 5/6
@rstockm
Ich freue mich über die Idee, allerdings hat es gerade bei meiner ersten Frage überhaupt keinen guten Eindruck gemacht. Das Overlay ist kaputt (siehe Screenshot), der eingegebene Text ist unlesbar. Und leider ergab die klare Anfrage kein Ergebnis, obwohl passende Bücher in der Datenbank zu finden sind.
Bin gespannt, wie sich das entwickelt.
@simondueckert ist hier dokumentiert:
https://github.com/voebb-dev/voebb-chatbot/blob/main/prime-prompt.md
Ralf Stockmann
Anatol Stefanowitsch
leidkultur
Esther Menhard
ManniCalavera
Fly it.
Julika Mimkes
Simon Dückert
wrdlbrmpft