Grok hat in elf Tagen ~3 Millionen sexualisierte Bilder erzeugt – darunter Kinderpornografie. Kein Versagen einzelner Nutzer, sondern eine unternehmerische Entscheidung. Der »Spicy Mode« wurde geplant und freigegeben.

Die politische Antwort? Vorratsdatenspeicherung und Chatkontrolle. Repression statt Prävention. Täterorientiert statt opferschützend.

Dabei wäre die Antwort einfach: Eine KI braucht keine Ausziehfunktion. Musk ist verantwortlich. Es wird Zeit, ihn zur Rechenschaft zu ziehen. 👇

https://www.kuketz-blog.de/deepfakes-die-technologischen-ermoeglicher-des-missbrauchs-ein-kommentar/

#KI #Deepfakes #Kinderschutz #Grok

Deepfakes: Die technologischen Ermöglicher des Missbrauchs – Ein Kommentar

Musks KI Grok hat massenhaft Kinderpornografie-Deepfakes erzeugt. Warum wird Musk nicht zur Rechenschaft gezogen?

@kuketzblog
es braucht die gesamte LLM- und Diffusion-Technologie nicht, insbesondere nicht in den Händen von Faschisten

@ki @kuketzblog Die Technologie ist da, die geht auch nicht mehr weg. Es gibt etliche KI-Modelle, die klein genug sind, um ohne externes Rechenzentrum auf einem mit hinreichender GPU-Leistung und genug Speicher ausgestatteten PC (z.B. Gaming-Maschine oder Grafikworkstation) zu laufen, und viele davon kann man gratis herunterladen und selbst modifizieren. Viele davon sind komplett unzensiert, und bei denen, die zensiert sind, kann man die entfernten Funktionen selbst wieder hinzufügen. Man kann vielleicht die kommerziellen Plattformen im Netz dazu zwingen, ihren Output zu zensieren, und früher oder später gehen die eh alle pleite, weil ihr Geschäftsmodell vorn und hinten nicht funktioniert, aber die Open-Source/Open-Weights-Modelle sind draußen, man kann sie herunterladen, modifizierte unzensierte Versionen (oder LoRAs, die entsprechende Funktionen zu den normalen Modellen hinzufügen), sind aus zahlreichen Quellen verfügbar, werden auch per Filesharing verbreitet.
Wenn man sich einmal die üblichen Schmuddelecken im Netz anguckt, z.B. 4chan, dann sieht man, daß die meisten pornographischen KI-Bilder und -Videos von Leuten mit dicken PCs generiert werden, die ihre eigene KI auf der lokalen Maschine betreiben (und teilweise ihre eigenen LoRAs trainieren, um der KI neue Tricks beizubringen, etwa indem sie einen Videogenerator mit sämtlichen Nacktszenen einer einzelnen Schauspielerin füttern; da läuft die Maschine dann vielleicht ein paar Tage und Nächte auf Hochtouren, aber danach kann jeder User das Ding benutzen, der es irgendwo im Netz findet).

Zahnpasta bekommt man nicht mehr in die Tube zurückgedrückt. Die Technologie ist draußen und wird benutzt. Weder Staaten noch Konzerne können da viel dran drehen, höchstens die Sichtbarkeit reduzieren.

@LordCaramac @kuketzblog
Dagegen gibt es bereits Gesetze, es mangelt nur an der Durchsetzung, bzw. am Willen dazu.

"Open-Source-Modelle" gibt es so nicht, dazu müssten die Eingangs alle transparent mitgeliefert werden. Das wird niemand tun. Bitte missbrauch den Begriff "Open Source" also nicht in diesem Zusabmenhang.

@ki @kuketzblog Gesetze werden nicht verhindern, daß diese Modelle z.B. über Bittorrent weiterverbreitet werden. Gesetze haben ja auch nicht verhindert, daß Kopierschutzkram ausgehebelt und nichtlizensierte Kopien von Medien verbreitet werden. Alles, was sich mit Technologie machen läßt, wird auch gemacht, und weder Konzerne noch Regierungen können verhindern, daß die Straße mit der Technologie macht, was sie will, sobald die Technologie auf der Straße ist, das ist ja auch die Basis jeder guten Cyberpunk-Geschichte. Wenn es erst einmal Neuroimplantate gibt, gibt es irgendwann auch illegale Schattendocs, die einem verbotene Chips aus der militärischen Forschung implantieren. Wenn es intelligente Waffen gibt, werden sie irgendwann auch von Gangstern und Terroristen eingesetzt. Wenn etwas gehackt werden kann, wird es auch gehackt werden.
Und was immer an digitaler Information einmal im Umlauf ist, die für hinreichend viele Leute interessant ist, wird auch nicht mehr verschwinden. Software ist auch nur digitale Information, und ML-Modelle sind auch nur Software. Wenn einmal hinreichend viele Leute den Kram auf der Festplatte haben, verschwindet er nicht mehr, weil sich alle digitalen Informationen beliebig oft verlustfrei kopieren lassen.
Die generelle Regierbarkeit der Welt wird von Leuten, die an den Staat glauben (ich nicht, ich bin Anarchist) grundsätzlich überschätzt. Selbst brutale totalitäre Diktaturen mit KI-unterstützter Totalüberwachung wie China haben ihre Grenzen.

Und eine atomisierte anonyme Gesellschaft, wo niemand groß etwas davon mitbekommt, was die Nachbarn so machen, wird immer wieder versagen bei der Lösung sozialer Probleme. Polizei ist auch nur der Versuch, durch wohlorganisierte und reglementierte Gewalt die Probleme staatlicherseits einzudämmen -- wobei es da natürlich hauptsächlich gegen alles geht, was den status quo gefährdet, gegen die Linken, gegen die Kleinen, die sich auch mal so unverschämt bereichern wollen wie die Großen, gegen alle, die den reibungslosen Ablauf des Normalbetriebs stören.

@LordCaramac

hab nur den Anfang gelesen, ist mir gerade zu lang. Fass dich bitte kürzer

lebensnahe kinderpornographische "Erzeugnisse" sind illegal, egal wie sie erstellt werden oder wo sie herkommen und genauso gibt es Rechtsgrundlagen für andere Belange

@ki Ich fasse mich eigentlich nie kurz.
@LordCaramac @ki klingt mir eher wie ein libertäres Weltbild als wie ein anarchistisches

@skaphle @ki Ich bin relativ nihilistisch und zynisch. Diese Gesellschaft ist eh nicht zu retten, da kann man höchsten gucken, wie man sich in Zeiten des Niedergangs Nischen sucht, wo das System sich gerade nicht wirklich ernsthaft durchsetzen kann oder will, und sich dort einnisten und alternative Strukturen aufbauen, bis das System irgendwann wieder hinguckt und beschließt, das wieder plattzumachen. Und dann guckt man, wie lange man seine Nische verteidigen kann.
Das System wird kollabieren, aber das Problem dabei ist, daß die ökologischen Grundlagen jeglicher Zivilisation dermaßen destabilisiert sind, daß diejenigen, die den Kollaps überleben, vermutlich für Zehntausende von Jahren nur noch sehr simple, primitive Gesellschaften ohne komplexe Technologie aufbauen können. Computer oder überhaupt irgendwelche Industrie gibt es dann eh nicht mehr.
Solange es noch universell einsetzbare Computer gibt, werden Menschen diese auf jede nur denkbare Art benutzen. Das wird keiner verhindern können. Teile der Industrie haben zwar schon seit der Trusted-Computing-Initiative von vor einem Vierteljahrhundert beschlossen, daß die gemeine Zivilbevölkerung keinen Zugang mehr zu universellen programmierbaren Turingmaschinen haben soll, sondern nur noch zu kryptographisch vernagelten, zensierten und überwachten Maschinen, auf denen nur noch das läuft, was der zuständige Konzern erlaubt, und natürlich hängen sie sich bei jeder Gelegenheit an die Politik und Medien und behaupten, das sei notwendig, um die Computerkriminalität zu bekämpfen. (Damit meinen sie natürlich ganz besonders sogenannte "Raubkopien", aber das sagen sie nicht, stattdessen schieben sie Kinderpornos und Terrorismus vor.)

Da ich nicht an so einen Blödsinn wie geistiges Eigentum glaube, habe ich überhaupt kein Problem damit, wenn KI-Modelle ohne Erlaubnis mit Bildern und Texten und Videos gefüttert werden. Ich habe nur ein Problem damit, wenn irgendwer dann hinterher geistige Eigentumsansprüche auf das resultierende virtuelle neuronale Netz geltendzumachen versucht. Aber weil eh niemand ernsthaft mit KI Geld verdienen kann, wird die Blase bald kollabieren, und mit etwas Glück beschleunigt das den Kollaps der kapitalistischen Weltwirtschaft. Der Iran-Krieg könnte auch dazu beitragen.

Ach ja. Eigentlich glaube ich ja nicht einmal an physisches Eigentum. Ich glaube nur an persönlichen Besitz. Was man nicht in seinem Rucksack oder seiner Wohnung verstauen kann, sollte meiner Ansicht nach einfach niemandem gehören, sondern Teil der Allmende sein. Aber es sollte auch eine gesellschaftliche Selbstorganisation zur Beendigung der wirtschaftlichen Konkurrenz erlaubt werden, denn Konkurrenz zerstört die Allmende.

Reformierbar ist an unserer Welt überhaupt nichts mehr, dafür sind die Fundamente schon zu kaputt. Hurra Kaputtalismus! Aber wenn die KI-Blase platzt, dann gibt es nur noch wenige, die Videos generieren können: Poweruser mit sündhaft teuren Grafikkarten, professionelle Propagandisten und Akademiker. Alle, die nur irgendwelche Web-Plattformen benutzen, werden von deren Ende einfach kalt erwischt werden.

Um zum Ausgangspunkt zurückzukommen: Das Problem heißt Patriarchat, also Herrschaft der Väter. Das bekommt man nur kaputt, wenn man die komplette Kultur demoliert. Solange Väter eine herausragende Rolle im Leben ihrer Kinder, insbesondere der Söhne, spielen, wird das Patriarchat nicht kleinzukriegen sein. Väter gehören entmachtet, Kinder sollten ohne nennenswerten väterlichen Einfluß aufwachsen. Vaterschaft als gesellschaftliche Institution muß unterminiert werden. Dazu gehört auch, daß die Ehe letztendlich abgeschafft gehört.

@[email protected] @[email protected] @[email protected] "Diejenigen, die den Kollaps überleben" das Problem ist, dass der Kollaps nicht überlebbar ist. Das Stichwort ist da die Wetbulbtemperatur. Wird sie überschritten, sterben die Organismen, es gibt nichts mehr, was überleben könnte, um irgendwann eine neue Zivilisation aufzubauen. Wir müssen es also schaffen und wir werden es.