đŸ”„ Story:
Forschende der UniversitĂ€t ZĂŒrich haben im Reddit-Forum "ChangeMyView" KI-Bots fĂŒr ein unethisches Experiment eingeschleust. Darunter fiktive Personas, wie

1.) ein mÀnnliches Vergewaltigungsopfer.
2.) eine PoC-Person die gegen die #Blacklivesmatter-Bewerung ist.

Das Experiment fand von Nov 2024 bis MĂ€rz 2025 statt, ohne Moderatoren und Community vorab zu informieren.

Reddit-User wurden damit massiv getÀuscht.

Internationale Forschungscommunity ist entsetzt

https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/

Reddit-User mit KI-Bots getĂ€uscht- das fragwĂŒrdige Experiment der UniversitĂ€t ZĂŒrich - Das Netz ist politisch

Dank Hinweisen von mehreren aufmerksamen DNIP-Lesern haben wir am Wochenende von einem spannenden Fall erfahren:

Das Netz ist politisch
@adfichter Ich habs schon ĂŒbers Wochenende geschrieben, aber als Forscher an der UZH war ich ziemlich bestĂŒrzt. Auf der anderen Seite leider aber auch nicht ĂŒberrascht.
Wir bewegen uns in einem Umfeld, wo Forschenden (und Studierenden, leider) nun seit geraumer Zeit konstant eingeblÀut wird, dass es nichts wichtigeres gÀbe, als Chatbots und Text-Generation zu erforschen.
Wenn ich Forschungspraktiken im Strudel dieses #aihype sehe (nicht nur an der UZH natĂŒrlich), sind diese aus meiner Perspektive negativ von der Ausrichtung der Forschungsgelder nach dem Hype und den apokalyptischen Narrativen der Tech-Unternehmen beeinflusst. Zugespitzt, die Gott-Maschine kommt, also ist fast alles zu ihrer Erforschung gerechtfertigt.
Dass es da Leute dann ĂŒbertreiben, scheint mir die logische Konsequenz. Und aus meiner Erfahrung mit EinschĂ€tzungen zu digitalen Experimenten an unwissenden Teilnehmenden, wo das Forschungsteam argumentiert hatte, dass der potentielle Schaden ja minim sei, ist auch die Praxis im vorliegenden Fall durchaus konsistent dazu, was momentan als nicht bedenklich empfunden wird.

@mario_angst_sci @adfichter
Danke!
Ein Punkt der mir in deiner Auflistung fehlt: Der Druck aus dem Forschungsapparat, möglichst spektakulÀre Resultate erzielen zu können oder in Hype-Themen aktiv zu sein. Das ebnet meiner Erfahrung nach den Weg zu Professuren oder Forschungsgeldern.

Die Preregistrations sind eigentlich ein gutes Mittel, um das zumindest einen Teil dieses Drucks aus dem Publikationszyklus herauszunehmen. Aber die KrÀfte weiter hinten zeigen scheinbar weiterhin ihre Wirkung.

@marcel @adfichter Ich gehe mit dir da völlig einig. Wo ich vielleicht etwas einen Unterschied machen wĂŒrde ist, dass das von dir erwĂ€hnte Problem aus meiner Sicht ein generelles Problem in der Forschung ist.
Bei AI-Themen kommt meiner Meinung nach noch stĂ€rker als in anderen Feldern spezifisch noch der Hype dazu, der zu einer ĂŒbertriebenen EinschĂ€tzung der Wichtigkeit solcher Forschung fĂŒhrt, was wohl ein Grund dafĂŒr war, dass das Forschungsteam im vorliegenden Fall mit dem Nutzen ihrer Forschung zur Rechtfertigung ihres Vorgehens ĂŒberhaupt argumentieren konnte.

@mario_angst_sci @adfichter
Laut Aussage der Medienstelle #UZH von heute morgen hat die #Ethikkommission der Philosophischen FakultÀt Vorgaben gemacht. Die dann aber von den Forscher:innen in den Wind geschlagen wurden.

https://waldvogel.family/@marcel/114420970002870206

Marcel Waldvogel (@[email protected])

«In ihrer Stellungnahme zum Projekt wies die Ethikkommission der Philosophischen FakultĂ€t die Forschenden darauf hin, dass die besagte Studie fĂŒr die Kommission die grösste Herausforderung darstelle und daher a) der gewĂ€hlte Ansatz stĂ€rker begrĂŒndet werden sollte, b) die Teilnehmer so weit wie möglich informiert werden sollten und c) die Regeln der Plattform vollstĂ€ndig befolgt werden sollten.» Die Verantwortung zur Umsetzung liege bei den Forschenden. #UZH #Reddit #DNIP https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/#Update-2942025-um-10-42-Stellungnahme-der-Universitaet-Zuerich

Das Federversum

@marcel paah, Ethik, steht doch nur im Weg herum
 đŸ˜©

@mario_angst_sci @adfichter