Grok hat in elf Tagen ~3 Millionen sexualisierte Bilder erzeugt – darunter Kinderpornografie. Kein Versagen einzelner Nutzer, sondern eine unternehmerische Entscheidung. Der »Spicy Mode« wurde geplant und freigegeben.

Die politische Antwort? Vorratsdatenspeicherung und Chatkontrolle. Repression statt Prävention. Täterorientiert statt opferschützend.

Dabei wäre die Antwort einfach: Eine KI braucht keine Ausziehfunktion. Musk ist verantwortlich. Es wird Zeit, ihn zur Rechenschaft zu ziehen. 👇

https://www.kuketz-blog.de/deepfakes-die-technologischen-ermoeglicher-des-missbrauchs-ein-kommentar/

#KI #Deepfakes #Kinderschutz #Grok

Deepfakes: Die technologischen Ermöglicher des Missbrauchs – Ein Kommentar

Musks KI Grok hat massenhaft Kinderpornografie-Deepfakes erzeugt. Warum wird Musk nicht zur Rechenschaft gezogen?

@kuketzblog
Das Strafgesetzbuch ist da eigentlich ziemlich eindeutig (Par.184b). Da muss man nicht mal Mittäterschaft als Umweg bemühen.

@vampirdaddy @kuketzblog

Die Katze beißt sich leider da in den Schwanz, wo eine Gesellschaft nicht bereit ist, solche unternehmerischen Entscheidungen von vornherein inakzeptabel zu machen, weil ein großer Teil der Einzelnen ähnlich tickt. Und die unternehmerisch bereit gestellte Option begierig nutzt.

Von mir aus gerne solche Unternehmer mit Einfachticket auf den Mars schießen. Aber die, die sexistische Dinge gut finden und verwenden, tragen dafür auch Verantwortung.

@vampirdaddy @kuketzblog
Das deutsche Strafgesetzbuch für Elmo?? 🤔🤨

@Layer8
@kuketzblog

Spätestens wenn er deutschen Boden betritt. Hitlergruß, Erstellung und Verbreitung von (Fake-) Kinderporn, ausländische Wahlmanipulation, ...

@kuketzblog

wo ist denn bei dieser problematik die einst so beliebte "..aber die Kinder!" rhetorik der rechten?

damals ging es glaub ich um die fiktion von kindern im keller der pizzeria und irgendwelche verjüngungskuren

watson News (@[email protected])

Wegen Beleidigungen: Keller-Sutter geht juristisch gegen Elon Musks KI Grok vor. https://www.watson.ch/!727490172?utm_source=mastodon&utm_medium=social-auto&utm_campaign=auto-share

Mastodon 🐘
@kuketzblog Lasst uns bei musk das härteste urteil fällen: eine geldstrafe die er sich locker leisten kann. 

@kuketzblog va darf Musk nicht eine*n User*in mehr haben. Das hat mit Tesla funktioniert, leider nicht mit dem Rest.

#boycottMusk
#boycottX
#biycottGrok

@kuketzblog
es braucht die gesamte LLM- und Diffusion-Technologie nicht, insbesondere nicht in den Händen von Faschisten

@ki @kuketzblog Die Technologie ist da, die geht auch nicht mehr weg. Es gibt etliche KI-Modelle, die klein genug sind, um ohne externes Rechenzentrum auf einem mit hinreichender GPU-Leistung und genug Speicher ausgestatteten PC (z.B. Gaming-Maschine oder Grafikworkstation) zu laufen, und viele davon kann man gratis herunterladen und selbst modifizieren. Viele davon sind komplett unzensiert, und bei denen, die zensiert sind, kann man die entfernten Funktionen selbst wieder hinzufügen. Man kann vielleicht die kommerziellen Plattformen im Netz dazu zwingen, ihren Output zu zensieren, und früher oder später gehen die eh alle pleite, weil ihr Geschäftsmodell vorn und hinten nicht funktioniert, aber die Open-Source/Open-Weights-Modelle sind draußen, man kann sie herunterladen, modifizierte unzensierte Versionen (oder LoRAs, die entsprechende Funktionen zu den normalen Modellen hinzufügen), sind aus zahlreichen Quellen verfügbar, werden auch per Filesharing verbreitet.
Wenn man sich einmal die üblichen Schmuddelecken im Netz anguckt, z.B. 4chan, dann sieht man, daß die meisten pornographischen KI-Bilder und -Videos von Leuten mit dicken PCs generiert werden, die ihre eigene KI auf der lokalen Maschine betreiben (und teilweise ihre eigenen LoRAs trainieren, um der KI neue Tricks beizubringen, etwa indem sie einen Videogenerator mit sämtlichen Nacktszenen einer einzelnen Schauspielerin füttern; da läuft die Maschine dann vielleicht ein paar Tage und Nächte auf Hochtouren, aber danach kann jeder User das Ding benutzen, der es irgendwo im Netz findet).

Zahnpasta bekommt man nicht mehr in die Tube zurückgedrückt. Die Technologie ist draußen und wird benutzt. Weder Staaten noch Konzerne können da viel dran drehen, höchstens die Sichtbarkeit reduzieren.

@LordCaramac @kuketzblog
Dagegen gibt es bereits Gesetze, es mangelt nur an der Durchsetzung, bzw. am Willen dazu.

"Open-Source-Modelle" gibt es so nicht, dazu müssten die Eingangs alle transparent mitgeliefert werden. Das wird niemand tun. Bitte missbrauch den Begriff "Open Source" also nicht in diesem Zusabmenhang.

@ki @kuketzblog Gesetze werden nicht verhindern, daß diese Modelle z.B. über Bittorrent weiterverbreitet werden. Gesetze haben ja auch nicht verhindert, daß Kopierschutzkram ausgehebelt und nichtlizensierte Kopien von Medien verbreitet werden. Alles, was sich mit Technologie machen läßt, wird auch gemacht, und weder Konzerne noch Regierungen können verhindern, daß die Straße mit der Technologie macht, was sie will, sobald die Technologie auf der Straße ist, das ist ja auch die Basis jeder guten Cyberpunk-Geschichte. Wenn es erst einmal Neuroimplantate gibt, gibt es irgendwann auch illegale Schattendocs, die einem verbotene Chips aus der militärischen Forschung implantieren. Wenn es intelligente Waffen gibt, werden sie irgendwann auch von Gangstern und Terroristen eingesetzt. Wenn etwas gehackt werden kann, wird es auch gehackt werden.
Und was immer an digitaler Information einmal im Umlauf ist, die für hinreichend viele Leute interessant ist, wird auch nicht mehr verschwinden. Software ist auch nur digitale Information, und ML-Modelle sind auch nur Software. Wenn einmal hinreichend viele Leute den Kram auf der Festplatte haben, verschwindet er nicht mehr, weil sich alle digitalen Informationen beliebig oft verlustfrei kopieren lassen.
Die generelle Regierbarkeit der Welt wird von Leuten, die an den Staat glauben (ich nicht, ich bin Anarchist) grundsätzlich überschätzt. Selbst brutale totalitäre Diktaturen mit KI-unterstützter Totalüberwachung wie China haben ihre Grenzen.

Und eine atomisierte anonyme Gesellschaft, wo niemand groß etwas davon mitbekommt, was die Nachbarn so machen, wird immer wieder versagen bei der Lösung sozialer Probleme. Polizei ist auch nur der Versuch, durch wohlorganisierte und reglementierte Gewalt die Probleme staatlicherseits einzudämmen -- wobei es da natürlich hauptsächlich gegen alles geht, was den status quo gefährdet, gegen die Linken, gegen die Kleinen, die sich auch mal so unverschämt bereichern wollen wie die Großen, gegen alle, die den reibungslosen Ablauf des Normalbetriebs stören.

@LordCaramac

hab nur den Anfang gelesen, ist mir gerade zu lang. Fass dich bitte kürzer

lebensnahe kinderpornographische "Erzeugnisse" sind illegal, egal wie sie erstellt werden oder wo sie herkommen und genauso gibt es Rechtsgrundlagen für andere Belange

@ki Ich fasse mich eigentlich nie kurz.

@kuketzblog Wenn es täterorientiert wäre, würde man Elon Musk wegen Kinderpornografie zur Fahndung ausschreiben und die USA um Auslieferung bitten.

Es ist vorwandsorientiert.

@kuketzblog

Was wollen wir erwarten, von einer Regierung, deren "CEO" Vergewaltigung in der Ehe toll findet?

@kuketzblog
Alles richtig soweit. Aber mal etwas weiter gedacht: verhindern lässt sich dieser Schmutz nicht, da man diesen auch lokal generieren kann. Wie kann man dann damit umgehen? Potentiell jedes Bild und Video muss doch mittlerweile als gefälscht betrachtet werden.
Patrick Seemann (@[email protected])

Attached: 1 image Was normale Userinnen täglich erleben, erreicht nun auch den Bundesrat. Vielleicht hilft das Verfahren ja, Klagen in Zukunft zu vereinfachen. Beschimpfungen durch Grok: Keller-Sutter reicht Strafanzeige ein https://www.srf.ch/news/schweiz/ki-chatbot-grok-sexistische-beschimpfungen-keller-sutter-reicht-strafanzeige-ein

Mastodon

@kuketzblog Ja und jetzt werden "ClOtHiNg rEmOvEr" verboten und damit so ziemlich alles was mit soft-mask retuschieren und mit Prompts inpainten darf.

Das ist als würde man Springmesser verbieten, aber auch alles was sonst so aus Metall in der Besteckschublade liegt...

Danke, Elon, aber auch Danke, Politik. Und Danke, User. Weil ihr habt die kranke Scheiße wie besessen gepromptet.

@kuketzblog Grok ist hier das Springmesser, trivial einfach, blitzschnell verfügbar.

Aber in 20 Minuten hast du dir das zu Hause auch privat gebaut mit etwas Hirnschmalz und 'ner 500 Euro GPU.

Das ist wieder dieselbe Geschichte wie "Hackertools" verbieten, am besten gleich Pinsel und Bleistift gleich mit.

Ja. ich hasse Grok und das Scheißding soll endlich Guardrails bekommen oder verboten werden. Aber Bildgeneratoren sind einfacher gestrickt, da ist nix industriell. Das ist Home-Computing.

@kuketzblog und ich wette meinen nicht vorhandenen Hut darauf, dass Photoshop das auch kann mit seinem neuen Inpainting tool.

Die Tat muss verfolgt und bestraft werden, ohne Generalverdacht gegen uns Normalos.

Leuten wie Christian Ulmen sollte strafrechtlich der Arsch sowas von aufgerissen werden, dass da endlich mal ein Umdenken bei Männern statt findet.

Ich glaube man kann sich gar nicht dagegen schützen, die Zahnpasta ist aus der Tube raus, die geht nie wieder hinein.