Grok hat in elf Tagen ~3 Millionen sexualisierte Bilder erzeugt – darunter Kinderpornografie. Kein Versagen einzelner Nutzer, sondern eine unternehmerische Entscheidung. Der »Spicy Mode« wurde geplant und freigegeben.

Die politische Antwort? Vorratsdatenspeicherung und Chatkontrolle. Repression statt Prävention. Täterorientiert statt opferschützend.

Dabei wäre die Antwort einfach: Eine KI braucht keine Ausziehfunktion. Musk ist verantwortlich. Es wird Zeit, ihn zur Rechenschaft zu ziehen. 👇

https://www.kuketz-blog.de/deepfakes-die-technologischen-ermoeglicher-des-missbrauchs-ein-kommentar/

#KI #Deepfakes #Kinderschutz #Grok

Deepfakes: Die technologischen Ermöglicher des Missbrauchs – Ein Kommentar

Musks KI Grok hat massenhaft Kinderpornografie-Deepfakes erzeugt. Warum wird Musk nicht zur Rechenschaft gezogen?

@kuketzblog Ich fänd es spannend Grok in einem Verfahren wie eine als-ob-Person zu behandeln und die Maßstäbe anzulegen, die man eben auch bei einer Person anlegt.

Oder aber Grok wird ähnlich rechtlich angegangen wie Privatpersonen während der Pirateriezeit: jede Veröffentlichung von illegalem Inhalt wird rechtliche geahndet. Das waere mal was. Schöner Traum: Wenn der Staat nach oben tritt, statt nach unten.

@Christiansurrey @kuketzblog Wir sollten KI auf keinen Fall als rechtliche Personen behandeln, solange wir sie nicht sanktionieren können. Bis dahin ist die Betreiberin für Dienste haftbar, ob mit KI oder ohne.

Und nicht die KI vibe codet schlechte apps, sondern ein Mensch nutzt ein Werkzeug unverantwortlich und soll auch weiterhin dafür verantwortlich sein.

@elrido @kuketzblog Da gehe ich mit. Meine Idee war eher Personenbehandlung als quasi-Massstab zu nehmen. Es ist eben keine unschuldige Maschine wie bspw. ein Kaffeeautomat sondern KI hat eine ethische Qualität. KI kann ethisch gut oder schlecht sein. Rechtlich haftbar/verantwortlich muss immer der Besitzer/Firma sein. Mit Personenbehandlung als Quasi-Masstab meine ich aber zugleich, dass die Haftung nicht bloß ökonomischer Ausgleich (Geld) sein darf (was ja immer beim Involvement durch Unternehmen der Fall ist), sondern KI tritt als sozialer Akteur auf und sollte auch sozusagen zivilrechtliche Konsequenzen nach sich ziehen, die eben auf den Besitzer/Firma durchgreifen. Soll heißen: wenn Herr Musk explizit Kinderpornografie und Deepfakes realer Personen erlaubt, sollte er persönlich dafür zu Rechenschaft gezogen werden dürfen. Es sollte schlicht eine Freiheitsstrafe auf dem Tableau stehen.