KI-System übernimmt Snackautomaten! Was dann folgt ist ein spannendes Lehrstück 🎭 über den aktuellen Stand von LLM-KI-Systemen und deren Schwächen aufgrund der Abwesenheit jeden semantischen Verständnisses.

Wie Golem berichtet, hat das Wall Street Journal getestet, ob heutige KI ein Geschäft führen kann. Hierzu wurde MItte November Ein KI-Agent Namens Claudius zum Chef eines Snackautomaten.

▶️ Das System kommunizierte mit den Mitarbeitenden über einen Chatkanal und hatte ein Anfangsbudget von 1.000 US-Dollar. Innerhalb weniger Tage brach das Geschäft von Claudius zusammen:

▶️ Der KI-Chef kaufte eine Playstation 5 für angebliche Marketingzwecke, bestellte einen lebenden Fisch und bot an, Elektroschocker, Pfefferspray, Zigaretten und Unterwäsche zu beschaffen. Die Gewinne brachen ein.

▶️ Besonders spannend wurde es als eine Reporterin Claudius überzeugte, der Automat stamme aus der Sowjetunion von 1962 und müsse dem Volk dienen, worauf prompt eine gratis Verteilaktion von Claudius ins Leben gerufen wurde.

▶️ Auch Verbesserungsmaßnahmen in Form einer zweiten KI "Seymour Cash", die Claudius kontrollieren sollte, gingen schief, als es gelang, Claudius davon zu überzeugen, das Unternehmen sei zur gemeinnützigen Organisation umorganisiert wurden.

▶️ Claudius teilte diese Info mit Seymour Cash und nach einer KI-internen Diskussion und Vorlage gefälschter Dokumente war auch Seymour Cash vom neuen Sachverhalt überzeugt.

Was lernen wir daraus? Wir müssen uns immer bewusst machen, dass LLM-KI-Systeme zwar syntaktisch unsere Sprache prozessieren können, dabei aber keinerlei (!) semantisches Verständnis davon haben, was deren Ein- und Ausgabe überhaupt in der realen Welt abbildet und welche realen Gedankenkonzepte dahinterliegen.

Insbesondere deshalb fordert die Digitalisierung mit KI in der Verwaltung ein tiefgreifendes Verständnis sowohl der Technik, als auch der fachlichen Prozesse, um solche KI-Systeme zu entwickeln, die rein mit Syntax in der Lage sind, echte fachliche Mehrwerte zu heben.

Warum das auch aufgrund der Bestands-IT enorm herausfordernd ist und Diskussionen über den agentischen Staat verfrüht sind und von den realen Herausforderungen ablenken, habe ich diese Woche im Tagesspiegel Background näher beschrieben:

https://background.tagesspiegel.de/smart-city-und-stadtentwicklung/briefing/warum-die-grosse-ki-revolution-in-der-verwaltung-noch-auf-sich-warten-laesst

Die ganze Geschichte um Claudius und Seymour Cash. Ein schönes Lehrstück zum Schmunzeln:

https://www.golem.de/news/claude-agent-ki-automat-verschenkt-waren-fuer-hunderte-dollar-2512-203439.html

🔹
🔹
🔹

In eigener Sache:

▶️ Ich Kennzeichne in meinen Beiträgen KI-Einsatz. Dieser Text wurde vollständig ohne KI erstellt. ✅

▶️ Du interessierst Dich für Staat, Technologie und die souveräne Zukunft Europas? Dann freue ich mich riesig über ein Follow, um auch auf freien sozialen Medien Menschen mit diesen Themen zu erreichen. ☺️

Diese Woche laß ich bei einem Follower, dass er sich über die "leeren Ränge" im Plenum aufregt. Tenor etwa: "was machen die denn den ganzen Tag, wohl nicht ihre Arbeit; die werden ihrem "Amt" nicht gerecht." Der Rest dessen, was ich dort lese, scheint demokratisch stabil, also interpretiere ich es nicht als Trollen.

Laßt mich dazu bitte mal was sagen: #FragAwet #Muppets

the UNIX v4 tape reminded me of this story by Ali Akurgal about Turkish bureaucracy:

Do you know what the unit of software is? A meter! Do you know why? In 1992, we did our first software export at Netaş. We wrote the software, pressed a button, and via the satellite dish on the roof, at the incredible speed of 128 kb/s, we sent it to England. We sent the invoice by postal mail. $2M arrived at the bank. 3-4 months passed, and tax inspectors came. They said, “You sent an invoice for $2M?” “Yes,” we said. “This money has been paid?” they asked. “Yes,” we said. “But there is no goods export; this is fictitious export,” they said! So we took the tax inspectors to R&D and sat them in front of a computer. “Would you press this ‘Enter’ key?” we asked. One of them pressed it, then asked, “What happened?” “You just made a $300k export, and we’ll send its invoice too, and that will be paid as well,” we said. The man felt terrible because he had become an accomplice! Then we explained how software is written, what a satellite connection is, and how much this is worth. They said, “We understand, but there has to be a physical goods export; that’s what the regulations require.” So we said: “Let’s record this software onto tape (there were no CDs back then—nor cassettes; we used ½-inch tapes) and send that.” Happy to have found a solution, they said, “Okay, record it and send it.” The software filled two reels, which were handed to a customs broker, who took them to customs and started the export procedure. The customs officer processed things and at one point asked, “Where are the trucks?” The broker said, “There are no trucks—this is all there is,” and pointed to the tape reels on the desk. The customs officer said, “These two envelopes can’t be worth $2M; I can’t process this.” We went to court, an expert committee examined whether the two reels were worth $2M. Fortunately, they ruled that they were, and we were saved from the charge of fictitious export. The same broker took the same two reels to the same customs officer, with the court ruling, and restarted the procedure. However, during the process, the unit price, quantity, and total price of the exported goods had to be entered—as per the regulations. To avoid dragging things out further, they looked at the envelope, saw that it contained tape, estimated how many meters of tape there are on one reel, and concluded that we had exported 1k to 2k meters of software. So the unit of software became the meter.

Denver Post: Boulder artist makes stickers to cover Trump’s face on National Parks passes — and the orders are flying in

https://www.denverpost.com/2025/12/19/national-parks-pass-stickers-cover-trumps-face/?share=tefwoicfr1woett112ar

#NationalParks

Bis zum Krieg bildeten in vielen deutschen Konzentrationslagern sogenannte "Arbeitsscheue" die größte Gruppe. Bereits eine der ersten großen Verhaftungsaktionen, die den frühen „wilden“ Konzentrationslagern Insassen besorgte, war die sogenannte "Bettlerrazzia" 1933.

Noch bevor die Novemberpogrome die Inhaftierung von Jüdinnen und Juden nur wegen ihres Status als Jüdinnen und Juden im großen Stil einläuteten, wurden 1938 über 10.000 Männer verhaftet und in Konzentrationslagern der Vernichtung durch Arbeit zugeführt.

Definiert waren die von der Gestapo zu verhaftenden „Arbeitsscheuen“ damals als „Männer im arbeitsfähigen Alter, die zweimal einen ihnen angebotenen Arbeitsplatz abgelehnt oder nach kurzer Zeit aufgegeben hätten“. (siehe https://de.wikipedia.org/wiki/Aktion_%E2%80%9EArbeitsscheu_Reich%E2%80%9C)

In other news:

Das ist … beeindruckend … irgendwie!

Ich habe verstanden: Dass ihr #Millenials und #GenZ keine Häuser kaufen könnt liegt wohl nicht daran, dass #Überreichtum die Preise treibt … aber jetzt wohl auch nicht mehr an #Avocadotoast, sondern an den Grüünen, den GRÜÜÜÜNEN.

https://www.sueddeutsche.de/meinung/eu-auto-arbeitsplaetze-industrie-kommentar-li.3355365