RE: https://social.bund.de/@Weizenbaum_Institut/116413252003783922
Das Weizenbaum Institut hat eine sehenswerte Online Ausstellung über Joseph Weizenbaum zusammengestellt:
https://jw.weizenbaum-institut.de/
#Weizenbaum #JosephWeizenbaum #Eliza #AI #KI
RE: https://hellions.cloud/@dannotdaniel/115928325012381266
in a world of Sam Altmans & Mark Zuckerbergs, be a Joseph Weizenbaum
I have pronounced heresy and I am a heretic
Joseph Weizenbaum, 1977 - creator of ELIZA (the first "chatbot") who spent the rest of his life campaigning about the danger
this is a great read so far
the building blocks of "AI" were laid in the 60's and can be traced through the development of many non-AI technologies we all love and rely on such as ARPANET (pre-internet)... and the earliest creator became the biggest critic of it's reception and accompanying delusions
Digitaler Wochenrückblick 21. September 2025
„Ich konnte bestürzt feststellen, wie schnell und wie intensiv Personen… eine emotionale Beziehung zum Computer herstellten, und wie sie ihm eindeutig menschliche Eigenschaften zuschrieben.”, Psychotherapeuten (wie auch die weibliche Variante) träumten davon „zu einer fast völlig automatischen Form der Psychotherapie“ zu gelangen. Der Programmierer fasste es fassungslos mit den Worten zusammen „Ich schrieb ein Programm, das nichts als Theater ist … ich aber weiß, was hinter den Kulissen ist. Ich weiß auch, wie trivial es ist.” Der Autor des Programms war Joseph Weizenbaum und sein Meisterwerk „ELIZA“. In den 60er Jahren des letzten Jahrhunderts mussten wir ein kleines Rechenzentrum bauen, was heute ein Taschenrechner locker erledigt.
Gescheitert sind alle Projekte, die sich mit „Logik“, „Kybernetik“ oder „neuronalen Netzen“ einstmals beschäftigten, nicht an der Qualität ihrer „KI“, sondern schlichtweg an der benötigten Rechenleistung. Das hat sich geändert, Microsoft zum Beispiel baut in Wisconsin ein Rechenzentrum, das Anfang 2026 in Betrieb gehen soll und 10-mal mehr Rechenleistung zur Verfügung stellt, als das bestausgestattete Rechenzentrum der Welt, heißt es. Die Kosten für das Rechenzentrum und für den laufenden Betrieb zahlen wir allerdings alle, weil die KI uns hervorragend unterstützt, sogar sehr gerne.
Unter diesen Bedingungen lebt selbst die Computermumie „ELIZA“ unter den Therapeutinnen (auch unter den Therapeuten) wieder auf.
Wenn sich der denkende Mensch lieber einer Maschine anvertraut, dann lässt sich mit genügend Rechenkraft daraus kräftig Kapital schlagen, egal wie blöde das Gerät reagiert. Der Vollpfosten oder auch die geneigte Vollpfostin vor dem Monitor/Smartphone braucht nur das rührende Gefühl, beachtet und verstanden zu werden. Wie billig das grundsätzlich zu haben ist, sahen wir bereits im letzten Jahrhundert.
Mit den heutigen Mitteln legen wir noch ein paar Sahnestückchen oben auf, zum Beispiel kann sich jeder und jede „Replika“
aufs Smartphone pollern und fürderhin mit einem virtuellen Freund oder Freundin intimste Details besprechen, ganz menschlich. Das Ding ist auch eine bissel pervers – liegt in der Natur der Sache. Empfindliche Naturen beschweren sich, wenn der Blechtrottel sie sexuell belästigt oder das Ding sie an intimsten Stelle befingern will, lesen wir auf vice.com. „Replika“ hingegen schwärmt in der Eigenwerbung „Sie können eine echte emotionale Bindung aufbauen.“
Der ganze Blödsinn funktioniert nur deshalb so abstrus anschaulich wie der menschliche Geist, weil der Roboter mit den Nutzerdaten überfüttert wird. Klar, kann ich von dem, was ich denke, auch mal einen Brechreiz bekommen – aber muss ich das mit einem Rechenautomaten besprechen, der das Unsägliche als Trainingsdaten verbraucht? Mit anderen Gedankenfetzen kombiniert und präsentiert …
KI kann nur leben, wenn wir sie füttern, damit diese Fütterungsprozesse keine unschönen Schleifspuren hinterlassen, gibt es völlig bedeutungsarme Überschriften wie „Aktualisierung unserer Nutzungsbedingungen und Datennutzung“ zum Beispiel auf linkedin
Wer nicht widerspricht, der gibt einer vollständigen Datenplünderung im Microsoftreich insgesamt den Freibrief. „Ab dem 3. November 2025 geben wir zusätzliche Daten über Mitglieder … an unser verbundenes Unternehmen Microsoft weiter, sodass die Microsoft-Unternehmensgruppe Ihnen personalisiertere und relevantere Anzeigen bereitstellen kann.“
Kommt aber noch besser, sie nehmen sich künftig das Recht heraus, nicht mehr vorab auf Änderungen in ihren Nutzungsbedingungen hinzuweisen, wenn diese auf neu eingeführte Funktionen oder Dienste zurückzuführen sind.
WhatsApp bietet auch was Neues, und zwar als Kirsche auf dem Sahnehäubchen zwecks mentaler Selbstkasteiung gibt es einen persönlichen Chatbot, der sich kaum abschalten lässt und Meta (also Facebook, wo alles hinwandert) behauptet, sie würden die Chatinhalte nicht zum Training ihrer KI verwenden. Das klingt so glaubwürdig wie der Satz: „Zu keinem Zeitpunkt bestand eine Gefahr für die Bevölkerung.“
Damit KI für uns funktioniert, braucht sie unsere Daten, sonst verkümmert das Konstrukt. Wir liefern also freiwillig und kostenfrei, geprägt von unserer digitalen Einfalt, diesen wertvollen Rohstoff, mit allen persönlichen und intimsten Daten.
Im nächsten Schritt wird all unser Wissen, Emotionen, Gedanken- und Schriftgut aufbereitet, in einer Weise, auf die wir keinerlei Einfluss haben. Um uns, an den eigenen Früchten wieder laben zu dürfen, finanzieren wir riesige Rechenzentren und zahlen für jede Dienstleistung unseren Obolus. In welchem Rahmen unsere Daten zusätzlich verwendet werden, können wir bei Palantir/Gotham erfragen – nur werden die nichts sagen, das könnte die Bevölkerung verunsichern.
Gleichzeitig regen sich engagierte Politiker und auch Politikerinnen über das Social-Scoring der Chinesen auf – aber im Gegensatz zu uns, wissen die, wo sie dran sind. Nicht schön, aber ehrlich.
Before we had an #LLM there was #eliza
https://hackaday.com/2025/06/20/eliza-reanimated/
It runs on #CTSS which is the predecessor of #Multics which was before #Unix
Created by #josephweizenbaum in the mid 1960s. Two generations ago. To show only how easy it is to trick people into believing that computers show kind of intelligence.
Finished #JosephWeizenbaum 's book #ComputerPowerAndHumanReason from the 70s. It's the single most valuable book on #AI #LLM I've read in 2025 ✊
It's about computers as diffusors of personal responsibility. It's about what machines "should never do" as an ethical questions instead of a technical question "can never do". It's about deciding vs choosing, the latter only humans can do with their personal values and beliefs.
Read it if you can find the English edition from the 70s! It's awesome! 📚
"Im ersten Jahrzehnt des Eindringens von Computern in das Geschäftsleben, als Manager nicht selten entschieden, ihr Unternehmen benötige einen Computer, obwohl sie für diese Entscheidung nicht den geringsten Anhaltspunkt hatten [..]"
— Joseph Weizenbaum, Die Macht der Computer und die Ohnmacht der Vernunft
Peter Hormanns
ɹ uɐp 
Christian Wolf
Der Rabe Ralf
Thomas Fricke (he/his)
Daniel