KI-System übernimmt Snackautomaten! Was dann folgt ist ein spannendes Lehrstück 🎭 über den aktuellen Stand von LLM-KI-Systemen und deren Schwächen aufgrund der Abwesenheit jeden semantischen Verständnisses.

Wie Golem berichtet, hat das Wall Street Journal getestet, ob heutige KI ein Geschäft führen kann. Hierzu wurde MItte November Ein KI-Agent Namens Claudius zum Chef eines Snackautomaten.

▶️ Das System kommunizierte mit den Mitarbeitenden über einen Chatkanal und hatte ein Anfangsbudget von 1.000 US-Dollar. Innerhalb weniger Tage brach das Geschäft von Claudius zusammen:

▶️ Der KI-Chef kaufte eine Playstation 5 für angebliche Marketingzwecke, bestellte einen lebenden Fisch und bot an, Elektroschocker, Pfefferspray, Zigaretten und Unterwäsche zu beschaffen. Die Gewinne brachen ein.

▶️ Besonders spannend wurde es als eine Reporterin Claudius überzeugte, der Automat stamme aus der Sowjetunion von 1962 und müsse dem Volk dienen, worauf prompt eine gratis Verteilaktion von Claudius ins Leben gerufen wurde.

▶️ Auch Verbesserungsmaßnahmen in Form einer zweiten KI "Seymour Cash", die Claudius kontrollieren sollte, gingen schief, als es gelang, Claudius davon zu überzeugen, das Unternehmen sei zur gemeinnützigen Organisation umorganisiert wurden.

▶️ Claudius teilte diese Info mit Seymour Cash und nach einer KI-internen Diskussion und Vorlage gefälschter Dokumente war auch Seymour Cash vom neuen Sachverhalt überzeugt.

Was lernen wir daraus? Wir müssen uns immer bewusst machen, dass LLM-KI-Systeme zwar syntaktisch unsere Sprache prozessieren können, dabei aber keinerlei (!) semantisches Verständnis davon haben, was deren Ein- und Ausgabe überhaupt in der realen Welt abbildet und welche realen Gedankenkonzepte dahinterliegen.

Insbesondere deshalb fordert die Digitalisierung mit KI in der Verwaltung ein tiefgreifendes Verständnis sowohl der Technik, als auch der fachlichen Prozesse, um solche KI-Systeme zu entwickeln, die rein mit Syntax in der Lage sind, echte fachliche Mehrwerte zu heben.

Warum das auch aufgrund der Bestands-IT enorm herausfordernd ist und Diskussionen über den agentischen Staat verfrüht sind und von den realen Herausforderungen ablenken, habe ich diese Woche im Tagesspiegel Background näher beschrieben:

https://background.tagesspiegel.de/smart-city-und-stadtentwicklung/briefing/warum-die-grosse-ki-revolution-in-der-verwaltung-noch-auf-sich-warten-laesst

Die ganze Geschichte um Claudius und Seymour Cash. Ein schönes Lehrstück zum Schmunzeln:

https://www.golem.de/news/claude-agent-ki-automat-verschenkt-waren-fuer-hunderte-dollar-2512-203439.html

🔹
🔹
🔹

In eigener Sache:

▶️ Ich Kennzeichne in meinen Beiträgen KI-Einsatz. Dieser Text wurde vollständig ohne KI erstellt. ✅

▶️ Du interessierst Dich für Staat, Technologie und die souveräne Zukunft Europas? Dann freue ich mich riesig über ein Follow, um auch auf freien sozialen Medien Menschen mit diesen Themen zu erreichen. ☺️

Raphael van Lierop :

Techbros seem to love Tolkien, so here's an analogy to help you understand what GenAI is.

GenAI is The One Ring. You think your use is justified, because you don't have evil in your heart.

But it came from evil, it is intended for evil purpose, and anything you do with it will be twisted to that end.

Bianca's answer :

Not just that but Tolkien also said: "Evil cannot create anything new, it can only corrupt and ruin what good forces have invented or made.".
Sound familiar ?

Ich habe gestern einen Gastbeitrag von Kristina Schröder auf WELT online gelesen. Darin geht es um den Sozialstaat – und um persönliche Assistenz für behinderte Menschen. Und ehrlich gesagt: Er hat mich tief getroffen.

Denn wenn über Assistenz als „nicht mehr tragbare Kosten“ gesprochen wird, dann geht es nicht abstrakt um Haushaltszahlen. Dann geht es um mein Leben.

Assistenz ist für mich kein Luxus. Kein Extra. Kein Wunschkonzert.
Assistenz ist das, was mich morgens aufstehen lässt. Was mir erlaubt zu arbeiten, Verantwortung zu übernehmen, mich einzubringen, selbstbestimmt zu leben.
Ohne Assistenz wäre mein Leben kleiner. Abhängiger. Fremdbestimmt. Vielleicht sogar institutionell verwahrt statt frei.

Ich brauche Assistenz 24 Stunden am Tag, weil Behinderung keinen Feierabend kennt. Weil Notfälle keine Bürozeiten haben. Weil Würde nicht um 22 Uhr endet.

Wenn Politik und Medien darüber diskutieren, ob Menschen wie ich „zu teuer“ sind, dann erzeugt das Angst. Die Angst, dass meine Freiheit an einem Verwaltungsakt hängt. Dass mein Leben jedes Jahr neu infrage gestellt wird. Dass ich mich rechtfertigen muss, warum ich so leben darf wie andere ganz selbstverständlich.

Dabei zeigt die Geschichte etwas anderes:
Stephen Hawking, Helen Keller, viele andere – ihre Leistungen waren nur möglich, weil Assistenz und Unterstützung ihnen Zugang zur Welt gegeben haben. Nicht trotz Assistenz. Sondern wegen ihr.

Ja, Assistenz kostet Geld.
Aber die eigentliche Frage ist: **Was kostet es uns als Gesellschaft, wenn wir anfangen, Menschenwürde zu kürzen?**

Ich bin keine Kostenstelle.
Ich bin ein Mensch.
Und mein Leben ist kein Sparposten.

Quelle: Kristina Schröder, „Sozialstaat: Was wir uns künftig nicht mehr leisten können“, WELT, 11.12.2025.

#Inklusion #Assistenz #Selbstbestimmung #Behindertenrechte #Teilhabe #Menschenwürde

Weil ich gemeinhin – zu Unrecht! – als unromantisch gelte, sei darauf hingewiesen, dass ich heute beim Sexualaufklärungsquiz des Düsseldorfer Gesundheitsamtes einen Eiskratzer für meine Freundin gewonnen habe.

Jaha!