OliFeb 7

A surge in new datacenters, each with the power demand of 100,000 households and a cooling water demand of 1,000,000 m³ per year to train AI models on material obtained without consent on hardware now unaffordable to consumers so fascism-adjacent tech billionaires can sell us the idea that any skill is now worthless and in doing so creating the largest economic bubble ever while simultaneously destroying society and environment.

I think that about sums it up.

#genai #llm

Show threadPetra van CronenburgFeb 7
@oli May I ask for a source of these figures? (I collect such facts for arguments).
Show threadOli

@NatureMC These are rough estimates and rounded figures from a lot of research. Base figures: A household requires ~4 MWh/a, a 50 MW datacenter requires 50x365x24=438 GWh/a -> 100,000. NTT is building a ~500 MW DC in Nierstein/Mainz Area (D) -> 1,000,000 households. Cooling reqs are hard to come by.

Google was unable to build their planned DC in Neuenhagen as the required 1.4 million m³ of water could not be provided.

Benchmark for a 100 MW hyperscale DC is 2.5 million m³/a.

https://www.heise.de/news/Rechenzentrum-Projekt-von-NTT-in-Nierstein-nimmt-naechsten-Schritt-11168911.html
https://www.deutschlandfunkkultur.de/tesla-gigafactory-gruenheide-wasser-100.html
https://www.techzeitgeist.de/der-stille-durst-der-ki-wie-rechenzentren-wasserreserven-zehren/

Bebauungsplan für NTT-Rechenzentrum in Nierstein steht

Die Planungen für die 482-Megawatt-Anlage von NTT Data nehmen die erste rechtliche Hürde. Der gesamte Bau soll rund zehn Jahre dauern und 2027 starten.

heise online
Feb 7 at 1:43pmWeb
Show threadPetra van CronenburgFeb 7
@oli Great, thank you for the sources!
Ich suche immer nach Beispielen, wie man Fachfremden ganz einfach erklären kann, was sie mit ihrem Whats-app-Witz oder ihrem ständigen Prompting so rausblasen (inklusive der Kosten /Ressourcen fürs Training) - da hilft das weiter.
Show threadOliFeb 7
@NatureMC Schwierig. Meiner Erfahrung nach blocken Leute bei diesen Informationen ab, weil es zu viel kognitive Dissonanz erzeugt. Und da haben wir noch nicht mal angefangen darüber zu reden, dass Bildgeneratoren unter anderem auf CSAM trainiert wurden und irgendwelche Klickworker vorher den schlimmsten Dreck aus den Trainingsdaten rausgefischt haben. Am Ende läuft es entweder auf "Aber MEINE KI ist ethisch sauber" oder "Tja, so isser halt, der Fortschritt" hinaus.
Show threadPetra van CronenburgFeb 7
@oli Ja, das ist wie mit anderen schwierigen Themen auch.
Ich vermeide in solchen Gesprächen eigentlich all das Fachzeug oder trockene Fakten.
Ich agiere da eher so nach Art des Kinderfernsehens. Bringe es also durchaus fertig, vor so einem eifrigen Witzler Wasserflaschen abzufüllen und vor den zu stellen. Wenn dann ein erstauntes Stirnrunzeln kommt, sag ich: "Das war dein Witz jetzt grad wert. Hat sich das gelohnt?"
Also mehr so subversiv ... 😉 Und irgendwelche Zauderer bekommt man immer.
Show threaduniFeb 8
@NatureMC @oli nicht all zu viel wenn man einigen relativ groben rechnungen glaubt, sehe so ca 0.3-10 wattstunden. problematisch werden halt eher vollautomatische sachen wie content farms die vielfach aufwendiger videos generieren, vibe coding mit tausenden tokens hintereinander etc
Show threadPetra van CronenburgFeb 8

@uniwuni Du musst das Training mit einrechnen, alle anderen Kosten ... es ist komplex und viele Zahlen verbergen die Betreiber. Empfehle @gerrymcgovern zu folgen, der kennt sich da aus.

@oli