Grok hat in elf Tagen ~3 Millionen sexualisierte Bilder erzeugt – darunter Kinderpornografie. Kein Versagen einzelner Nutzer, sondern eine unternehmerische Entscheidung. Der »Spicy Mode« wurde geplant und freigegeben.

Die politische Antwort? Vorratsdatenspeicherung und Chatkontrolle. Repression statt Prävention. Täterorientiert statt opferschützend.

Dabei wäre die Antwort einfach: Eine KI braucht keine Ausziehfunktion. Musk ist verantwortlich. Es wird Zeit, ihn zur Rechenschaft zu ziehen. 👇

https://www.kuketz-blog.de/deepfakes-die-technologischen-ermoeglicher-des-missbrauchs-ein-kommentar/

#KI #Deepfakes #Kinderschutz #Grok

Deepfakes: Die technologischen Ermöglicher des Missbrauchs – Ein Kommentar

Musks KI Grok hat massenhaft Kinderpornografie-Deepfakes erzeugt. Warum wird Musk nicht zur Rechenschaft gezogen?

@kuketzblog
es braucht die gesamte LLM- und Diffusion-Technologie nicht, insbesondere nicht in den Händen von Faschisten

@ki @kuketzblog Die Technologie ist da, die geht auch nicht mehr weg. Es gibt etliche KI-Modelle, die klein genug sind, um ohne externes Rechenzentrum auf einem mit hinreichender GPU-Leistung und genug Speicher ausgestatteten PC (z.B. Gaming-Maschine oder Grafikworkstation) zu laufen, und viele davon kann man gratis herunterladen und selbst modifizieren. Viele davon sind komplett unzensiert, und bei denen, die zensiert sind, kann man die entfernten Funktionen selbst wieder hinzufügen. Man kann vielleicht die kommerziellen Plattformen im Netz dazu zwingen, ihren Output zu zensieren, und früher oder später gehen die eh alle pleite, weil ihr Geschäftsmodell vorn und hinten nicht funktioniert, aber die Open-Source/Open-Weights-Modelle sind draußen, man kann sie herunterladen, modifizierte unzensierte Versionen (oder LoRAs, die entsprechende Funktionen zu den normalen Modellen hinzufügen), sind aus zahlreichen Quellen verfügbar, werden auch per Filesharing verbreitet.
Wenn man sich einmal die üblichen Schmuddelecken im Netz anguckt, z.B. 4chan, dann sieht man, daß die meisten pornographischen KI-Bilder und -Videos von Leuten mit dicken PCs generiert werden, die ihre eigene KI auf der lokalen Maschine betreiben (und teilweise ihre eigenen LoRAs trainieren, um der KI neue Tricks beizubringen, etwa indem sie einen Videogenerator mit sämtlichen Nacktszenen einer einzelnen Schauspielerin füttern; da läuft die Maschine dann vielleicht ein paar Tage und Nächte auf Hochtouren, aber danach kann jeder User das Ding benutzen, der es irgendwo im Netz findet).

Zahnpasta bekommt man nicht mehr in die Tube zurückgedrückt. Die Technologie ist draußen und wird benutzt. Weder Staaten noch Konzerne können da viel dran drehen, höchstens die Sichtbarkeit reduzieren.

@LordCaramac @kuketzblog
Dagegen gibt es bereits Gesetze, es mangelt nur an der Durchsetzung, bzw. am Willen dazu.

"Open-Source-Modelle" gibt es so nicht, dazu müssten die Eingangs alle transparent mitgeliefert werden. Das wird niemand tun. Bitte missbrauch den Begriff "Open Source" also nicht in diesem Zusabmenhang.

@ki @kuketzblog Gesetze werden nicht verhindern, daß diese Modelle z.B. über Bittorrent weiterverbreitet werden. Gesetze haben ja auch nicht verhindert, daß Kopierschutzkram ausgehebelt und nichtlizensierte Kopien von Medien verbreitet werden. Alles, was sich mit Technologie machen läßt, wird auch gemacht, und weder Konzerne noch Regierungen können verhindern, daß die Straße mit der Technologie macht, was sie will, sobald die Technologie auf der Straße ist, das ist ja auch die Basis jeder guten Cyberpunk-Geschichte. Wenn es erst einmal Neuroimplantate gibt, gibt es irgendwann auch illegale Schattendocs, die einem verbotene Chips aus der militärischen Forschung implantieren. Wenn es intelligente Waffen gibt, werden sie irgendwann auch von Gangstern und Terroristen eingesetzt. Wenn etwas gehackt werden kann, wird es auch gehackt werden.
Und was immer an digitaler Information einmal im Umlauf ist, die für hinreichend viele Leute interessant ist, wird auch nicht mehr verschwinden. Software ist auch nur digitale Information, und ML-Modelle sind auch nur Software. Wenn einmal hinreichend viele Leute den Kram auf der Festplatte haben, verschwindet er nicht mehr, weil sich alle digitalen Informationen beliebig oft verlustfrei kopieren lassen.
Die generelle Regierbarkeit der Welt wird von Leuten, die an den Staat glauben (ich nicht, ich bin Anarchist) grundsätzlich überschätzt. Selbst brutale totalitäre Diktaturen mit KI-unterstützter Totalüberwachung wie China haben ihre Grenzen.

Und eine atomisierte anonyme Gesellschaft, wo niemand groß etwas davon mitbekommt, was die Nachbarn so machen, wird immer wieder versagen bei der Lösung sozialer Probleme. Polizei ist auch nur der Versuch, durch wohlorganisierte und reglementierte Gewalt die Probleme staatlicherseits einzudämmen -- wobei es da natürlich hauptsächlich gegen alles geht, was den status quo gefährdet, gegen die Linken, gegen die Kleinen, die sich auch mal so unverschämt bereichern wollen wie die Großen, gegen alle, die den reibungslosen Ablauf des Normalbetriebs stören.

@LordCaramac

hab nur den Anfang gelesen, ist mir gerade zu lang. Fass dich bitte kürzer

lebensnahe kinderpornographische "Erzeugnisse" sind illegal, egal wie sie erstellt werden oder wo sie herkommen und genauso gibt es Rechtsgrundlagen für andere Belange

@ki Ich fasse mich eigentlich nie kurz.