Grok hat in elf Tagen ~3 Millionen sexualisierte Bilder erzeugt – darunter Kinderpornografie. Kein Versagen einzelner Nutzer, sondern eine unternehmerische Entscheidung. Der »Spicy Mode« wurde geplant und freigegeben.

Die politische Antwort? Vorratsdatenspeicherung und Chatkontrolle. Repression statt Prävention. Täterorientiert statt opferschützend.

Dabei wäre die Antwort einfach: Eine KI braucht keine Ausziehfunktion. Musk ist verantwortlich. Es wird Zeit, ihn zur Rechenschaft zu ziehen. 👇

https://www.kuketz-blog.de/deepfakes-die-technologischen-ermoeglicher-des-missbrauchs-ein-kommentar/

#KI #Deepfakes #Kinderschutz #Grok

Deepfakes: Die technologischen Ermöglicher des Missbrauchs – Ein Kommentar

Musks KI Grok hat massenhaft Kinderpornografie-Deepfakes erzeugt. Warum wird Musk nicht zur Rechenschaft gezogen?

@kuketzblog
Das Strafgesetzbuch ist da eigentlich ziemlich eindeutig (Par.184b). Da muss man nicht mal Mittäterschaft als Umweg bemühen.

@vampirdaddy @kuketzblog

Die Katze beißt sich leider da in den Schwanz, wo eine Gesellschaft nicht bereit ist, solche unternehmerischen Entscheidungen von vornherein inakzeptabel zu machen, weil ein großer Teil der Einzelnen ähnlich tickt. Und die unternehmerisch bereit gestellte Option begierig nutzt.

Von mir aus gerne solche Unternehmer mit Einfachticket auf den Mars schießen. Aber die, die sexistische Dinge gut finden und verwenden, tragen dafür auch Verantwortung.

@vampirdaddy @kuketzblog
Das deutsche Strafgesetzbuch für Elmo?? 🤔🤨

@Layer8
@kuketzblog

Spätestens wenn er deutschen Boden betritt. Hitlergruß, Erstellung und Verbreitung von (Fake-) Kinderporn, ausländische Wahlmanipulation, ...

@kuketzblog

wo ist denn bei dieser problematik die einst so beliebte "..aber die Kinder!" rhetorik der rechten?

damals ging es glaub ich um die fiktion von kindern im keller der pizzeria und irgendwelche verjüngungskuren

watson News (@[email protected])

Wegen Beleidigungen: Keller-Sutter geht juristisch gegen Elon Musks KI Grok vor. https://www.watson.ch/!727490172?utm_source=mastodon&utm_medium=social-auto&utm_campaign=auto-share

Mastodon 🐘
@kuketzblog Lasst uns bei musk das härteste urteil fällen: eine geldstrafe die er sich locker leisten kann. 

@kuketzblog va darf Musk nicht eine*n User*in mehr haben. Das hat mit Tesla funktioniert, leider nicht mit dem Rest.

#boycottMusk
#boycottX
#biycottGrok

@kuketzblog
es braucht die gesamte LLM- und Diffusion-Technologie nicht, insbesondere nicht in den Händen von Faschisten

@ki @kuketzblog Die Technologie ist da, die geht auch nicht mehr weg. Es gibt etliche KI-Modelle, die klein genug sind, um ohne externes Rechenzentrum auf einem mit hinreichender GPU-Leistung und genug Speicher ausgestatteten PC (z.B. Gaming-Maschine oder Grafikworkstation) zu laufen, und viele davon kann man gratis herunterladen und selbst modifizieren. Viele davon sind komplett unzensiert, und bei denen, die zensiert sind, kann man die entfernten Funktionen selbst wieder hinzufügen. Man kann vielleicht die kommerziellen Plattformen im Netz dazu zwingen, ihren Output zu zensieren, und früher oder später gehen die eh alle pleite, weil ihr Geschäftsmodell vorn und hinten nicht funktioniert, aber die Open-Source/Open-Weights-Modelle sind draußen, man kann sie herunterladen, modifizierte unzensierte Versionen (oder LoRAs, die entsprechende Funktionen zu den normalen Modellen hinzufügen), sind aus zahlreichen Quellen verfügbar, werden auch per Filesharing verbreitet.
Wenn man sich einmal die üblichen Schmuddelecken im Netz anguckt, z.B. 4chan, dann sieht man, daß die meisten pornographischen KI-Bilder und -Videos von Leuten mit dicken PCs generiert werden, die ihre eigene KI auf der lokalen Maschine betreiben (und teilweise ihre eigenen LoRAs trainieren, um der KI neue Tricks beizubringen, etwa indem sie einen Videogenerator mit sämtlichen Nacktszenen einer einzelnen Schauspielerin füttern; da läuft die Maschine dann vielleicht ein paar Tage und Nächte auf Hochtouren, aber danach kann jeder User das Ding benutzen, der es irgendwo im Netz findet).

Zahnpasta bekommt man nicht mehr in die Tube zurückgedrückt. Die Technologie ist draußen und wird benutzt. Weder Staaten noch Konzerne können da viel dran drehen, höchstens die Sichtbarkeit reduzieren.

@LordCaramac @kuketzblog
Dagegen gibt es bereits Gesetze, es mangelt nur an der Durchsetzung, bzw. am Willen dazu.

"Open-Source-Modelle" gibt es so nicht, dazu müssten die Eingangs alle transparent mitgeliefert werden. Das wird niemand tun. Bitte missbrauch den Begriff "Open Source" also nicht in diesem Zusabmenhang.

@ki @kuketzblog Gesetze werden nicht verhindern, daß diese Modelle z.B. über Bittorrent weiterverbreitet werden. Gesetze haben ja auch nicht verhindert, daß Kopierschutzkram ausgehebelt und nichtlizensierte Kopien von Medien verbreitet werden. Alles, was sich mit Technologie machen läßt, wird auch gemacht, und weder Konzerne noch Regierungen können verhindern, daß die Straße mit der Technologie macht, was sie will, sobald die Technologie auf der Straße ist, das ist ja auch die Basis jeder guten Cyberpunk-Geschichte. Wenn es erst einmal Neuroimplantate gibt, gibt es irgendwann auch illegale Schattendocs, die einem verbotene Chips aus der militärischen Forschung implantieren. Wenn es intelligente Waffen gibt, werden sie irgendwann auch von Gangstern und Terroristen eingesetzt. Wenn etwas gehackt werden kann, wird es auch gehackt werden.
Und was immer an digitaler Information einmal im Umlauf ist, die für hinreichend viele Leute interessant ist, wird auch nicht mehr verschwinden. Software ist auch nur digitale Information, und ML-Modelle sind auch nur Software. Wenn einmal hinreichend viele Leute den Kram auf der Festplatte haben, verschwindet er nicht mehr, weil sich alle digitalen Informationen beliebig oft verlustfrei kopieren lassen.
Die generelle Regierbarkeit der Welt wird von Leuten, die an den Staat glauben (ich nicht, ich bin Anarchist) grundsätzlich überschätzt. Selbst brutale totalitäre Diktaturen mit KI-unterstützter Totalüberwachung wie China haben ihre Grenzen.

Und eine atomisierte anonyme Gesellschaft, wo niemand groß etwas davon mitbekommt, was die Nachbarn so machen, wird immer wieder versagen bei der Lösung sozialer Probleme. Polizei ist auch nur der Versuch, durch wohlorganisierte und reglementierte Gewalt die Probleme staatlicherseits einzudämmen -- wobei es da natürlich hauptsächlich gegen alles geht, was den status quo gefährdet, gegen die Linken, gegen die Kleinen, die sich auch mal so unverschämt bereichern wollen wie die Großen, gegen alle, die den reibungslosen Ablauf des Normalbetriebs stören.

@LordCaramac

hab nur den Anfang gelesen, ist mir gerade zu lang. Fass dich bitte kürzer

lebensnahe kinderpornographische "Erzeugnisse" sind illegal, egal wie sie erstellt werden oder wo sie herkommen und genauso gibt es Rechtsgrundlagen für andere Belange

@ki Ich fasse mich eigentlich nie kurz.
@LordCaramac @ki klingt mir eher wie ein libertäres Weltbild als wie ein anarchistisches

@skaphle @ki Ich bin relativ nihilistisch und zynisch. Diese Gesellschaft ist eh nicht zu retten, da kann man höchsten gucken, wie man sich in Zeiten des Niedergangs Nischen sucht, wo das System sich gerade nicht wirklich ernsthaft durchsetzen kann oder will, und sich dort einnisten und alternative Strukturen aufbauen, bis das System irgendwann wieder hinguckt und beschließt, das wieder plattzumachen. Und dann guckt man, wie lange man seine Nische verteidigen kann.
Das System wird kollabieren, aber das Problem dabei ist, daß die ökologischen Grundlagen jeglicher Zivilisation dermaßen destabilisiert sind, daß diejenigen, die den Kollaps überleben, vermutlich für Zehntausende von Jahren nur noch sehr simple, primitive Gesellschaften ohne komplexe Technologie aufbauen können. Computer oder überhaupt irgendwelche Industrie gibt es dann eh nicht mehr.
Solange es noch universell einsetzbare Computer gibt, werden Menschen diese auf jede nur denkbare Art benutzen. Das wird keiner verhindern können. Teile der Industrie haben zwar schon seit der Trusted-Computing-Initiative von vor einem Vierteljahrhundert beschlossen, daß die gemeine Zivilbevölkerung keinen Zugang mehr zu universellen programmierbaren Turingmaschinen haben soll, sondern nur noch zu kryptographisch vernagelten, zensierten und überwachten Maschinen, auf denen nur noch das läuft, was der zuständige Konzern erlaubt, und natürlich hängen sie sich bei jeder Gelegenheit an die Politik und Medien und behaupten, das sei notwendig, um die Computerkriminalität zu bekämpfen. (Damit meinen sie natürlich ganz besonders sogenannte "Raubkopien", aber das sagen sie nicht, stattdessen schieben sie Kinderpornos und Terrorismus vor.)

Da ich nicht an so einen Blödsinn wie geistiges Eigentum glaube, habe ich überhaupt kein Problem damit, wenn KI-Modelle ohne Erlaubnis mit Bildern und Texten und Videos gefüttert werden. Ich habe nur ein Problem damit, wenn irgendwer dann hinterher geistige Eigentumsansprüche auf das resultierende virtuelle neuronale Netz geltendzumachen versucht. Aber weil eh niemand ernsthaft mit KI Geld verdienen kann, wird die Blase bald kollabieren, und mit etwas Glück beschleunigt das den Kollaps der kapitalistischen Weltwirtschaft. Der Iran-Krieg könnte auch dazu beitragen.

Ach ja. Eigentlich glaube ich ja nicht einmal an physisches Eigentum. Ich glaube nur an persönlichen Besitz. Was man nicht in seinem Rucksack oder seiner Wohnung verstauen kann, sollte meiner Ansicht nach einfach niemandem gehören, sondern Teil der Allmende sein. Aber es sollte auch eine gesellschaftliche Selbstorganisation zur Beendigung der wirtschaftlichen Konkurrenz erlaubt werden, denn Konkurrenz zerstört die Allmende.

Reformierbar ist an unserer Welt überhaupt nichts mehr, dafür sind die Fundamente schon zu kaputt. Hurra Kaputtalismus! Aber wenn die KI-Blase platzt, dann gibt es nur noch wenige, die Videos generieren können: Poweruser mit sündhaft teuren Grafikkarten, professionelle Propagandisten und Akademiker. Alle, die nur irgendwelche Web-Plattformen benutzen, werden von deren Ende einfach kalt erwischt werden.

Um zum Ausgangspunkt zurückzukommen: Das Problem heißt Patriarchat, also Herrschaft der Väter. Das bekommt man nur kaputt, wenn man die komplette Kultur demoliert. Solange Väter eine herausragende Rolle im Leben ihrer Kinder, insbesondere der Söhne, spielen, wird das Patriarchat nicht kleinzukriegen sein. Väter gehören entmachtet, Kinder sollten ohne nennenswerten väterlichen Einfluß aufwachsen. Vaterschaft als gesellschaftliche Institution muß unterminiert werden. Dazu gehört auch, daß die Ehe letztendlich abgeschafft gehört.

@[email protected] @[email protected] @[email protected] "Diejenigen, die den Kollaps überleben" das Problem ist, dass der Kollaps nicht überlebbar ist. Das Stichwort ist da die Wetbulbtemperatur. Wird sie überschritten, sterben die Organismen, es gibt nichts mehr, was überleben könnte, um irgendwann eine neue Zivilisation aufzubauen. Wir müssen es also schaffen und wir werden es.
@Life_is @skaphle @ki Irgendeine Form von Kollaps gibt es so oder so. Die Frage ist nur, wie er verläuft. In spätestens 300 Jahren sind die letzten Reste des Industriezeitalters vorbei und die Menschen auf einer sehr simplen technologischen Komplexitätsstufe, falls es dann noch welche gibt.

@Life_is @skaphle @ki Menschen sind hochintelligente Allesfresser. Und wir können thermisch isolierte Höhlen bauen. Wenn auch nur 20 000 von uns irgendwo auf Inseln in der Arktis und/oder Antarktis überleben, kann die Evolution der Gattung Homo weitergehen. Vielleicht gibt es dann nie wieder eine Zivilisation, nur noch nomadische Post-Kollaps-Stämme, aber was soll's.

Wenn wir Glück haben, kollabiert die kapitalistische Weltwirtschaft schnell genug, um den von ihr angerichteten ökologischen Schaden soweit zu begrenzen, daß sogar zwei oder drei Milliarden von uns erst einmal überleben. Längerfristig wird die Weltbevölkerung wegen der massiven ökologischen Schäden aber wohl auf unter eine halbe Milliarde sinken. Immerhin können wir davon ausgehen, daß die Reichen dabei allesamt draufgehen, weil sie keine Ahnung davon haben, wie man durchkommt, wenn nichts mehr richtig funktioniert.

@Life_is @skaphle @ki Es wird wohl kaum noch zu verhindern sein, daß große Teile der Tropen und Subtropen unbewohnbar werden. Da kommen im Verlaufe dieses Jahrhunderts wohl ein bis zwei Milliarden Klimatote und ebensoviele Klimaflüchtlinge zusammen. Fast der gesamte indische Subkontinent dürfte unbewohnbar werden, ebenso große Teile des Nahen und Mittleren Ostens, der größte Teil von Madagaskar, weite Landstriche in Ostafrika. Da werden die Menschen bei feuchtem Wetter dann einfach dampfgegart, wenn sie sich nicht wenigstens tagsüber in Kühlzellen einsperren können.

Aber das Klima ist bei gar nicht unsere größte Bedrohung, sondern das Artensterben. Das kapieren nur viele nicht, weil sie von sich selbst nicht als Teil der Fauna denken. Wir sind aber dummerweise Teil der Tierwelt, ob es uns gefällt oder nicht, und wenn wir die ökologischen Nischen kaputtmachen, in denen große Landwirbeltiere leben, werden wir aussterben, weil wir große Landwirbeltiere sind.

@LordCaramac @ki @kuketzblog

In deiner Argumentation akzeptierst du das Faktum als Norm. In einer Demokratie darf es jedoch nicht so laufen.

@lacrosse @ki @kuketzblog Es gibt Grenzen der Regierbarkeit. Es gibt Dinge, die nicht einmal ein Regime wie das von China durchsetzen kann, und in einer bürgerlich-demokratischen Gesellschaft sind die Möglichkeiten des Staates noch einmal wesentlich beschränkter.

Die Frage ist eher, was man tun kann, um das Patriarchat zum Absturz zu bringen, aber wenn man Paviane als Modell nimmt, dann sieht es so aus, als sei die einzige Möglichkeit der plötzliche Tod aller erwachsenen Männchen.

@kuketzblog Wenn es täterorientiert wäre, würde man Elon Musk wegen Kinderpornografie zur Fahndung ausschreiben und die USA um Auslieferung bitten.

Es ist vorwandsorientiert.

@kuketzblog
Alles richtig soweit. Aber mal etwas weiter gedacht: verhindern lässt sich dieser Schmutz nicht, da man diesen auch lokal generieren kann. Wie kann man dann damit umgehen? Potentiell jedes Bild und Video muss doch mittlerweile als gefälscht betrachtet werden.
Patrick Seemann (@[email protected])

Attached: 1 image Was normale Userinnen täglich erleben, erreicht nun auch den Bundesrat. Vielleicht hilft das Verfahren ja, Klagen in Zukunft zu vereinfachen. Beschimpfungen durch Grok: Keller-Sutter reicht Strafanzeige ein https://www.srf.ch/news/schweiz/ki-chatbot-grok-sexistische-beschimpfungen-keller-sutter-reicht-strafanzeige-ein

Mastodon

@kuketzblog Ja und jetzt werden "ClOtHiNg rEmOvEr" verboten und damit so ziemlich alles was mit soft-mask retuschieren und mit Prompts inpainten darf.

Das ist als würde man Springmesser verbieten, aber auch alles was sonst so aus Metall in der Besteckschublade liegt...

Danke, Elon, aber auch Danke, Politik. Und Danke, User. Weil ihr habt die kranke Scheiße wie besessen gepromptet.

@kuketzblog Grok ist hier das Springmesser, trivial einfach, blitzschnell verfügbar.

Aber in 20 Minuten hast du dir das zu Hause auch privat gebaut mit etwas Hirnschmalz und 'ner 500 Euro GPU.

Das ist wieder dieselbe Geschichte wie "Hackertools" verbieten, am besten gleich Pinsel und Bleistift gleich mit.

Ja. ich hasse Grok und das Scheißding soll endlich Guardrails bekommen oder verboten werden. Aber Bildgeneratoren sind einfacher gestrickt, da ist nix industriell. Das ist Home-Computing.

@kuketzblog und ich wette meinen nicht vorhandenen Hut darauf, dass Photoshop das auch kann mit seinem neuen Inpainting tool.

Die Tat muss verfolgt und bestraft werden, ohne Generalverdacht gegen uns Normalos.

Leuten wie Christian Ulmen sollte strafrechtlich der Arsch sowas von aufgerissen werden, dass da endlich mal ein Umdenken bei Männern statt findet.

Ich glaube man kann sich gar nicht dagegen schützen, die Zahnpasta ist aus der Tube raus, die geht nie wieder hinein.

@kuketzblog Ich fänd es spannend Grok in einem Verfahren wie eine als-ob-Person zu behandeln und die Maßstäbe anzulegen, die man eben auch bei einer Person anlegt.

Oder aber Grok wird ähnlich rechtlich angegangen wie Privatpersonen während der Pirateriezeit: jede Veröffentlichung von illegalem Inhalt wird rechtliche geahndet. Das waere mal was. Schöner Traum: Wenn der Staat nach oben tritt, statt nach unten.

@Christiansurrey @kuketzblog Wir sollten KI auf keinen Fall als rechtliche Personen behandeln, solange wir sie nicht sanktionieren können. Bis dahin ist die Betreiberin für Dienste haftbar, ob mit KI oder ohne.

Und nicht die KI vibe codet schlechte apps, sondern ein Mensch nutzt ein Werkzeug unverantwortlich und soll auch weiterhin dafür verantwortlich sein.

@elrido @kuketzblog Da gehe ich mit. Meine Idee war eher Personenbehandlung als quasi-Massstab zu nehmen. Es ist eben keine unschuldige Maschine wie bspw. ein Kaffeeautomat sondern KI hat eine ethische Qualität. KI kann ethisch gut oder schlecht sein. Rechtlich haftbar/verantwortlich muss immer der Besitzer/Firma sein. Mit Personenbehandlung als Quasi-Masstab meine ich aber zugleich, dass die Haftung nicht bloß ökonomischer Ausgleich (Geld) sein darf (was ja immer beim Involvement durch Unternehmen der Fall ist), sondern KI tritt als sozialer Akteur auf und sollte auch sozusagen zivilrechtliche Konsequenzen nach sich ziehen, die eben auf den Besitzer/Firma durchgreifen. Soll heißen: wenn Herr Musk explizit Kinderpornografie und Deepfakes realer Personen erlaubt, sollte er persönlich dafür zu Rechenschaft gezogen werden dürfen. Es sollte schlicht eine Freiheitsstrafe auf dem Tableau stehen.
@[email protected] Immer dran denken: Frankreich hat Elon Musk für diesen Monat zu einer Vernehmung einbestellt. Wenn er in Paris erscheint, wird er möglicherweise verhaftet so wie vor ihm Pavel Durek. Wenn er nicht nach Frankreich kommt, wird er zur Fahndung ausgeschrieben.