Gestern war ich bei @maybritillner zu Gast und habe mit @EskenSaskia @mmeckel @Achim_Berg und @RangaYogeshwar zum Thema #künstlicheIntelligenz diskutiert. Die ganze Sendung gibts in der ZDF Mediathek https://www.zdf.de/politik/maybrit-illner/ki-kuenstliche-intelligenz-maschine-gegen-mensch-maybrit-illner-vom-13-april-2023-100.html, ein paar meiner Aussagen gibts hier als 🧵
Künstliche Intelligenz – Maschine gegen Mensch?

Tesla-Chef Elon Musk fordert zusammen mit anderen Managern und Wissenschaftlern eine Pause bei der Entwicklung Künstlicher Intelligenz. Ist KI wirklich gefährlicher als die Atombombe?

maybrit illner

Hallo,

In der Runde Künstliche Intelligenz – Maschine gegen Mensch? "maybrit illner"– Der Polit-Talk im ZDF vom 13. April 2023 [1] wurde von den Teilnehmern mehrfach betont, propagiert, unterstrichen - durch die Einbettung der KI-infrastruktur in eigene Produkte werden Microsoft und Co. ihre Monopolstellung im digitalen Raum weiter zementieren.

Was ich in den Runden wie diese hier [1] vermisse - sind die Vertreter der Zivilgesellschaft, bspw. @ccc , @digitalcourage , ..., die NICHT NUR ihren Senf zum Thema geben, sondern mit der breiten Öffentlichkeit Ideen, Visionen, Ankündigungen über Projekte, die Probleme lösen können, teilen. Damit die breite Öffentlichkeit UNABHÄNGIG von den staatlichen Akteuren und von den "Qualitäts"medien diese Projekte unterstützen, in diesen Projekten mitmachen und so dem Unheil entgegenwirken kann.
@ankedb , die Idee einer Ethischen gemeinwohlorientierten Alternative zu profitorientierten KI-Lösungen finde ich persönlich ziemlich sympathisch. Hast du @ankedb oder evtl. Mitlesende evtl. Infos über Projekte, die an der Verwirklichung dieser Idee arbeiten?

Mir schwebt eine KI-Infrastruktur als Kulturelles und Soziales Projekt vor. Und ich sehe hier die Öffentlich-rechtlichen Medien (ÖRM) in der Verantwortung. Zu einem haben die ÖRM einen Auftrag die Allgemeinheit mit aktuellen Informationen auf einem gewissen Qualitätsniveau zu versorgen. Und dann haben die ÖRM auch riesige Archive mit Text-, Audio-, Bild- und Videodaten, die gewissen Qualitätskriterien entsprechen. Diese Daten können dafür verwendet werden, um die gemeinwohlorientierte KI-Infrastruktur zu trainieren.

Ah ja - die Milliarden Euro aus den Rundfunkbeiträgen haben die ÖRM auch. Und könnten - wenn Sie nur ausreichend motiviert werden, dem Zeitgeist entsprechend ihren Grundversorgungsauftrag zu erfüllen - finanztechnisch mit den Megakonzernen hinter dem großen Teich mithalten.

Es wurde doch in der Runde [1] auch thematisiert, dass zusätzlich zu einem funktionierenden Sprachmodell, das ja ein Geschäftsgeheimnis der Betreiber ist, sind für eine brauchbare KI permanente Justierung, Qualitätskontrolle durch Menschen, die aktuell von den Clickworkern in den Dritte-Welt-Ländern erledigt wird, notwendig. Was nur oberflächlich erwähnt und nicht vertieft wurde, die KI-Infrastruktur verbraucht 5-6 Mal mehr Strom im Vergleich zu gewöhnlichen Suchanfragen. Das ist IMHO vergleichbar mit der Kosten der Atomenergie, die Megakonzerne auf die Gemeinschaft abwälzen.

@ankedb du könntest ja die Teilnahme an solchen Runden wie [1] dafür nutzen, um die Journalisten - hier Maybrit Illner und die Öffentlichkeit darauf aufmerksam machen, dass die ÖRM aktuell fleißg die Werbung für die Megakonzerne hinter dem großen Teich machen. Bspw. wenn ich - angemeldet mit dem ZDF-Account - die Webseite [1] öffne, dann wird dort ein "+"-Zeichen eingeblendet mit dem "Pop-Up"-Hinweis "Merken und Teilen". Hinter diesem "+"-Zeichen werden Twitter, Facebook und Pinterest angeboten. Und kein einziges Netzwerk aus dem Fediverse.

= Quellen =
[1] Künstliche Intelligenz – Maschine gegen Mensch? "maybrit illner" – Der Polit-Talk im ZDF vom 13. April 2023 - www.zdf.de/politik/maybrit-ill…

#ChatGPT #ChatGPTDiary #Microsoft #O365 #OpenAI #ZDF #Microsoft365 #Office365 #KI #maybritILLNER

@flessqa999 ich betrachte mich auch als Vertreterin der Zivilgesellschaft, denn das ist mein Hintergrund und ich bin in ihr verwurzelt. Den öffentlich-rechtlichen Rundfunk halte ich nicht für eine gute Struktur, außerdem kann man das nicht National machen, sondern braucht mindestens die Europäische Union. Es gibt eine sehr gute Petition, die das beschreibt, was ich mir vorstelle: https://www.openpetition.eu/petition/online/securing-our-digital-future-a-cern-for-open-source-large-scale-ai-research-and-its-safety
Securing Our Digital Future: A CERN for Open Source large-scale AI Research and its Safety - Online petition

*Join us in our urgent mission to democratize AI research by establishing an international, publicly funded supercomputing facility equipped with 100,000 state-of-the-art AI accelerators to train open source foundation models. This monumental initiative will secure our technological independence, empower global innovation, and ensure safety, while safeguarding our democratic principles for generations to come.* In an era of unparalleled technological advancements, humanity stands on the precipic

openPetition

@ankedb Spannend ist, ob die Zuschauer in der Sendung dich als Vertreterin der Zivilgesellschaft sehen. Du wurdest als Mitglied der Partei der linke vorgestellt und du hast auch diese Tatsache

ich betrachte mich auch als Vertreterin der Zivilgesellschaft, denn das ist mein Hintergrund und ich bin in ihr verwurzelt


in der Sendung nicht thematisiert.

Es gibt eine sehr gute Petition, die das beschreibt, was ich mir vorstelle


Ich würde gern MITARBEITEN. Ob noch eine Petition hilft, dass in der Sache "Ethischen gemeinwohlorientierten Alternative zu profitorientierten KI-Lösungen" Bewegung kommt - da habe ich meine Zweifel. Es geht doch um eine VOM STAAT UNABHÄNGIGE INFRASTRUKTUR - und die Petition richtet sich an Staaten - da bin ich skeptisch, ob dies die richtige Vorgehensweise, die richtige Struktur ist?

@flessqa999 In der Bauchbinde stand auch Netzaktivistin u als solche wurde ich ja auch vorgestellt. Laion ist auch ein e.V., da kann man mitmachen. Die Petition ist neu, Laion nicht.

@ankedb @flessqa999

Ich fürchte, die #LAION-Initiative zäumt das Pferd vom falschen Ende auf und versucht, einer schädlichen Entwicklung hinterherzurennen.

Als erstes braucht die EU eine eigene Suchmaschinen-Infrastruktur. @MetaGer und andere sind beteiligt an einem tragisch unterfinanzierten Projekt, das einen #OpenWebIndex hervorbringen soll. Das wäre ein Innovationsmotor und eine Voraussetzung dafür, dass LAION gelingen kann, sollten wir sowas tatsächlich brauchen.

https://openwebsearch.eu/

Welcome - Open Web Search – Promoting Europe's Independence in Web Search

Open Web Search – Promoting Europe's Independence in Web Search

@MetaGer @ankedb @chpietsch

die #LAION-Initiative zäumt das Pferd vom falschen Ende auf und versucht, einer schädlichen Entwicklung hinterherzurennen.


Können Sie präzisieren, was Ihre Befürchtungen verursacht?

@flessqa999 @MetaGer @ankedb

Das, womit #ChatGPT z.Z. so viele beeindruckt, sind Taschenspielertricks – vergleichbar mit den Tricks, mit denen Weizenbaum mit seinem kleinen Programm #ELIZA in den 70er Jahren zu zeigen versuchte, wie leicht sich Menschen von Software täuschen lassen, die grammatisch korrekte Sätze produziert. Besonders wenn jemand das Etikett »Künstliche Intelligenz« draufgeklebt hat.

Wenn der Hype verflogen ist, werden wir sehen, dass der Einsatzbereich von LLMs recht beschränkt ist. Wer die Geschichte der Informatik kennt, weiß, dass es ca. alle zehn Jahre einen AI-Hype gibt.

Übrigens las ich vor kurzem in diesem Fediverse, dass eine ChatGPT-Sitzung 1000 mal mehr Strom verbraucht als eine Suchanfrage bei einer Suchmaschine. Ich mache mich auf die Suche nach Belegen.

@chpietsch @MetaGer @ankedb Zitat von utopia.de:

Allein das Trainieren des Sprachmodells, auf dem ChatGPT basiert, habe laut einer Studie von Google und der Universität Berkeley etwa 550 Tonnen CO2-Äquivalente (CO2e) ausgestoßen. Das entspricht ungefähr den gemeinsamen jährlichen Emissionen von 50 Deutschen – und das, bevor die Künstliche Intelligenz überhaupt zur Anwendung kam.

4- bis 5-facher Aufwand bei Suchanfragen
Martin Bouchard von QScale, einer Firma, die sich auf den Bau und Betrieb nachhaltiger Datenzentren spezialisiert hat, erwartet, dass bei der Integration von KI-Chatbot in Google und Bing „eine mindestens vier- bis fünffach so hohe Rechenleistung“ benötigt werden. Der Experte betont: „Aktuelle Datenzentren und die vorhandene Infrastruktur werden dafür nicht ausreichen.“

Nun ist es schwer abzuschätzen, wie viel CO2-Emissionen eine einzelne Suchanfrage verursacht. Studien zu dem Thema kommen auf sehr unterschiedliche Werte, meist liegen diese zwischen 0,1 und 10 Gramm CO2e pro Anfrage. Das sieht zunächst nach sehr wenig aus. Doch täglich werden mehrere Milliarden Suchanfragen bei Google getätigt (2019 lag der Wert bei 3,5 Milliarden), bei Bing sind es aktuell eine halbe Milliarde. Insgesamt sind das Hunderte Tonnen CO2e am Tag und einige Hunderttausendtonnen CO2e pro Jahr. Würde man diesen Wert vervielfachen, hätte das also wirklich einen beträchtlichen Effekt auf das Klima.


Verschlimmert ChatGPT die Klimakrise? Experten warnen, 23.02.2023 - utopia.de/chat-gpt-und-die-kli…

Verschlimmert ChatGPT die Klimakrise? Experten warnen

Der Energiebedarf von Suchmaschinen wie Google und Bing könnte sich durch KI-Technologie vervielfachen, sagen Experten.

Utopia.de

@flessqa999 @MetaGer @ankedb

Den Beleg für den Faktor 1000 suche ich noch, aber hier sind schon mal einige Zahlen, die Belegen, dass der Stromverbrauch von #LLMs wie #GPT ähnlich ruinös für den Planeten ist wie der von #Bitcoin:

https://www.bloomberg.com/news/articles/2023-03-09/how-much-energy-do-ai-and-chatgpt-use-no-one-knows-for-sure

Über #ChatGPT ist nichts genaues bekannt wegen der berüchtigten Intransparenz von "#OpenAI". Zitat im o.g. Artikel:

“We’re talking about ChatGPT and we know nothing about it,” she said. “It could be three raccoons in a trench coat.”

How Much Energy Do AI and ChatGPT Use? No One Knows For Sure

Greater transparency on emissions could also bring more scrutiny

Bloomberg

@MetaGer @ankedb @chpietsch

„Jede Frage an #ChatGPT benötigt 1000 Mal mehr Strom als eine Suchanfrage bei Google. Für jede Antwort, die man von dem Chatbot erhält, könnte man ein Smartphone bis zu 60-mal aufladen.“ Die Zeit 14/2023 S. 52


bildung.social/@chr/1101858522…

Was den Vergleich mit Smartphones angeht. Vor ein Paar Monaten hat der Journalist im Deutschlandfunk für die Reduzierung des Stromverbrauchs empfohlen die Videos auf Tablets oder Smartphones statt auf dem riesigen Fernsehbildschirm anzuschauen. Ich erinnere mich in diesem Zusammenhang an die Anfänge von Google, als Google ihre Rechenfarmen aus handelsüblichen PC's gebaut hat.

Da die Smartphones über beträchtliche Rechenleistung, die über längere Strecken ungenutzt ist, verfügen, bin ich an einer validen Einschätzung, Prüfung interessiert, ob es aus Umweltgründen machbar und sinnvoll ist, die Datenverarbeitung in verteilten Netzwerken, die aus aktiven oder auch nicht mehr genuzten Smartphones gebaut sind, durchzuführen. Es gibt doch Beispiele aus der Praxis wie SETI@home und Federated Machine Learning en.wikipedia.org/wiki/Federate… .

#SETIhome #ChatGPTStromverbrauch #ChatGPTDiary #FederatedMachineLearning

Christoph Roggon (@[email protected])

„Jede Frage an #ChatGPT benötigt 1000 Mal mehr Strom als eine Suchanfrage bei Google. Für jede Antwort, die man von dem Chatbot erhält, könnte man ein Smartphone bis zu 60-mal aufladen.“ Die Zeit 14/2023 S. 52

bildung.social
@flessqa999 Aber einen Punkt darf man bei Dezentralität nicht ausser Acht lassen: Der Aufwand (logistisch, energetisch) an Kommunikation über das Netz. @chpietsch @ankedb @MetaGer
@chpietsch @ankedb @MetaGer @Hiker In "Use cases" hier en.m.wikipedia.org/wiki/Federa… sind Anwendungsfälle beschrieben, in den Federated Learning seine Vorteile entfaltet, hinsichtlich Verringerung Datenübertragung und auch Verbesserung Datenschutz.
Federated learning - Wikipedia

@flessqa999 Ja klar, es kommt - wie immer - auf den konkreten Anwendungsfall an. @chpietsch @ankedb @MetaGer

@ankedb

Den öffentlich-rechtlichen Rundfunk halte ich nicht für eine gute Struktur...


Aus meiner Sicht sprechen für den öffentlich-rechtlichen Rundfunk (ÖRR) spricht

  • ÖRR hat einen Auftrag eine Grundversorgung mit aktuellen Informationen zu gewährleisten, ist also bspw. für die Verbreitung von Wetterprognosen zuständig 😉
  • verfügt über eine solide Datenbasis für das Training von Datenmodellen
  • ein solides Finanzierungsmodell

Was fehlt - ist die Kompetenz in Sachen Entwicklung und Betrieb von Sprachmodellen. Was mir dazu einfällt - wenn ÖRR-Sendeanstalten selbst keine Sport und Kulturereignisse veranstalten können, dann werden die Übertragungsrechte für viel Geld eingekauft. Genauso kann man die Rundfunkbeiträge für die Nutzung von extern entwickelten Datenmodellen, die mit qualitativen Inhalten der Sendeanstalten trainiert werden, nutzen

außerdem kann man das nicht National machen, sondern braucht mindestens die Europäische Union.


In der DLF-Sendung Computer und Kommunikation vom 15.04.2023 wurde thematisiert, dass die KI-Modelle einen größeren praktischen Nutzen haben, wenn diese Modelle Granularität aufweisen, also besser auf konkrete Anwendungsfelder justiert sind.

Und mit Rücksicht darauf bin ich an Belegen interessiert, dass eine für die gesamte EU konzipierte KI-Infrastruktur per se besser funktionieren wird, als ein Netzwerk aus den Insellösungen, die in einzelnen Ländern, Konzernen, Verbänden usw. entwickelt werden. Ich persönlich bin skeptisch den Leuchtturm-Projekten wie Human Brain Projekt gegenüber, wo viel Geld verbrannt wird und die Ergebnisse überschaubar bleiben. Im Falle der KI-Infrastruktur, wo die Sprache, Sprachmodelle, sprachliche Besonderheiten für die praktische Anwendung eine wichtige Rolle spielen, spricht meines Erachtens einiges dafür diese Besonderheiten bereits in der Konzeptionsphase zu berücksichtigen.

#Rundfunkbeiträge #ÖRR #Rundfunk #Granularität #HumanBrainProject

Computer und Kommunikation - Sendung

Jeden Samstag das Neueste aus Computertechnik und Informationstechnologie. Beiträge, Reportagen und Interviews zu IT-Sicherheit, Informatik, Datenschutz, Smartphones, Cloud-Computing und IT-Politik. Die Trends der IT werden kompakt und informativ zusammengefasst.

Deutschlandfunk