Markus Feilner

#KIMoratorium
(paywall)
Wir brauchen ein Moratorium für KI. Aus zwei Gründen:
a) Energieverbrauch und b) Risikenabschätzung.
Zu a) :

"Aus den verfügbaren Quellen folgerten Selvan und Kollegen, dass allein der letzte erfolgreiche Brute-Force-Learning-Durchgang von GPT-3 in etwa 189 Megawattstunden an Energie verbraucht und nach dänischem Strommix 85 Tonnen CO₂ freigesetzt hat. Das entspricht etwa dem neunfachen jährlichen CO₂-Ausstoß pro Kopf in Deutschland."
1/

https://www.sueddeutsche.de/wissen/chat-gpt-energieverbrauch-ki-1.5780744

Wie viel Energie verbrauchen KIs wie Chat-GPT?

Der Energieverbrauch von Chat-GPT und anderen KIs steigt weiter, das lassen neue Berechnungen vermuten. Doch die Techfirmen schweigen.

Süddeutsche Zeitung
Apr 1, 2024 at 2:40pmWeb
Show threadMarkus FeilnerApr 1, 2024
2/ Neue, sparsamere Hardware wird uns nicht retten:
"Die Geschwindigkeit der Neuronenvermehrung überflügelt selbst das Mooresche Gesetz. Dieses beschreibt, dass sich die Rechenoperationen pro Sekunde, die Computer durchführen können, alle etwa zwanzig Monate verdoppeln. "Jedoch verzweifacht sich gerade alle drei bis vier Monate der Bedarf an Rechenoperationen", sagt Selvan. Das Neuronenwachstum des Machine Learning verläuft also schneller, als Rechenpower bereitgestellt werden kann."
Show threadMarkus FeilnerApr 1, 2024
b) 1/ Risikenabschätzung vs. Kapitalismus
"Wenig überraschend kam die Studie zum Schluss, dass es KI-Systeme geben kann, die Bewusstsein erlangen können. Viel überraschender waren aber die Reaktionen aus der KI-Industrie. Die großen Player sagten alle: Was diese Bewusstseinstheorien verlangen, könnten wir schon morgen in unsere KI-Systeme einbauen."
(vgl. Bostrom)
https://www.sueddeutsche.de/wissen/ki-menschen-opus-bewusstsein-1.6509125
Künstliche Intelligenz: "Sie sollte uns mögen"

Eine KI hat gemerkt, dass sie einem Test unterzogen wird. Experte Johannes Kleiner sagt: „KI mit Bewusstsein muss uns wohlgesinnt sein."

Süddeutsche Zeitung
Show threadMarkus FeilnerApr 1, 2024

2/ "Wie können wir denn feststellen, ob eine KI tatsächlich etwas fühlt und nicht nur etwas nachplappert, das nach Bewusstsein klingt?

(...) Wir haben aber noch keinen anerkannten Test für KI-Systeme. Es gibt aber ganz neue Ergebnisse, wie bestehende Bewusstseinstests auf KI-Systeme übertragen werden könnten. Ich denke aber, es wird noch fünf bis zehn Jahre dauern, bis wir verlässliche Tests für bewusste KI entwickelt haben."

Show threadMarkus FeilnerApr 1, 2024

Oh, und c) Kaptialismus und Umverteilung...
Klar, dass das heute von Google kommt, aber ganz falsch ist das ja auch nicht:

https://slashdot.org/story/24/04/01/1619222/huge-ai-funding-leads-to-hype-and-grifting-warns-deepminds-demis-hassabis

Huge AI Funding Leads To Hype and 'Grifting,' Warns DeepMind's Demis Hassabis - Slashdot

The surge of money flooding into AI has resulted in some crypto-like hype that is obscuring the incredible scientific progress in the field, according to Sir Demis Hassabis, co-founder of DeepMind. From a report: The chief executive of Google's AI research division told the Financial Times that the ...