Weil die "KI" Unternehmen alle Hardware kaufen, wird der "du bekommst nur noch ein dummes Terminal und musst alle relevante Infrastruktur mieten" Trend noch weiter angeheizt. Hardware wird nicht nur teuer, sie wird komplett unzugänglich. Da hilft uns dann auch keine Open Source Software mehr.

https://www.golem.de/news/verteuerte-hardware-ki-konzerne-versperren-den-weg-aus-der-cloud-2603-206158.html

Verteuerte Hardware: KI-Konzerne verhindern den Ausstieg aus der Cloud - Golem.de

Eigene Hardware bedeutet Selbstbestimmung - und die wird durch hohe Kosten zum Luxus. Den Verursachern der Knappheit kommt das gerade recht.

Golem.de

@tante

Das wird sich wieder richten.

Sobald 90% der KI Unternehmen Pleite gehen, werden sie uns die, dann in riesigen Mengen auf Lager liegende, Hardware nachschmeißen.

@oschonrock @tante

Die Serverhardware ist ggf. brauchbar, aber die "G"PUs sind für die meisten nicht-KI-Anwendungen eher ungeeignet; das sind auf FP8 oder gar nur FP4 fused-multiply-add hinoptimierte Silicium-Gräber die sich an allem was keine sukzessive Multiplikation dünnbesetzter Matrizen ist in Pipeline-Stalls verschlucken.