Mastodawn

Martin Schwarzbeck Aug 28, 2025

Menschen vertrauen ChatGPT intimste Informationen an. Dessen Hersteller scannt die Chats, lässt sie von Moderator*innen lesen und gibt sie teils sogar an die Polizei weiter. Das hat Open AI als Sicherheitsmaßnahme nach einem Suizid eines Nutzers verkündet. https://netzpolitik.org/2025/datenweitergabe-an-die-polizei-eure-chats-mit-chatgpt-sind-nicht-privat/

Datenweitergabe an die Polizei: Eure Chats mit ChatGPT sind nicht privat

Menschen vertrauen ChatGPT intimste Informationen an. Der Hersteller scannt die Chats, lässt sie von Moderator*innen lesen und gibt sie in bestimmten Fällen sogar an die Polizei weiter. Das hat das KI-Unternehmen Open AI als Sicherheitsmaßnahme nach einem Suizid eines Nutzers verkündet.

netzpolitik.org

Show thread

EveAustria Aug 28, 2025

@yoshiXYZ
Hm, was ist dran verwerflich, wenn (offenbar menschliche) Moderator*innen Gespräche über Attentate, Bombenbau, Giftmischerei etc. prüfen und bei ausreichendem Verdacht an die Polizei melden?

Warum sollte man solche Daten schützen?

Und sollte man psychisch Kranke (vor allem mit Psychosen oder Schizophrenize) wirklich mit künstlicher Dummheit allein lassen, die ihnen Selbstmordmethoden empfiehlt?

Gerade bei Chatbots und (a)sozialen Medien finde ich Moderation gut und wichtig...

Show thread

Felix Beirau

@eveaustria @yoshiXYZ 1. Weil diese individuelle Einstufung nicht durch Privatunternehmen getroffen werden sollte und viel wichtiger 2., weil die technische Machbarkeit dieser Methode auch Missbrauch Tür und Tor öffnet.

Gerade bei Unternehmen wie OpenAI, die auf persönliche Rechte nicht viel geben und ungefragt Daten abgreifen (siehe Training von GPT), sollten die Alarmglocken hier unüberhörbar läuten.

Show thread

EveAustria Aug 28, 2025

@fbeirau @yoshiXYZ
Was du, Felix Beirau, dann eigentlich fordern müsstest, wäre, dass Privatunternehmen gar keine "KI"-Chatbots mehr anbieten dürften (eigentlich eh die beste Lösung), weil Large Language Models an und für sich - mit oder ohne Moderation, Prüf-Bots, Polizeimeldung etc. - extrem viel Missbrauch ermöglichen und auch von Grund auf ungeniert zum Datenabgreifen konzipiert wurden...

Show thread

Felix Beirau Aug 28, 2025

@eveaustria @yoshiXYZ dem stimme ich zum Teil zu.

Hier hinkt meiner Betrachtung nach sozial- und umweltverträgliche Regulation leider weit hinter Milliardeninvestitionen und Hype hinterher. Zugleich wird sowohl von einigen wenigen und reichen agierenden Personen als auch politisch (siehe bspw. Gesetze bzw. Nachrichten bzgl. KI, „kritischen Rohstoffen“ oder Copyright in den USA) viel für diese Machtverschiebung getan.