fuchsbromBislang für mich der beste Vortrag des heutigen Tages. #rp26
Dieser Post passt auch noch sehr gut zu dem o.g. Talk: Dass populäre KIs sehr freundlich bis kumpelhaft antworten, ist beabsichtigt – und birgt Risiken, denn es erzeugt emotionale Bindung und damit eine gewisse Abhängigkeit. Warum kommunizieren sie im Dialog und beim Erbringen ihrer Leistungen nicht sachlich und nüchtern wie etwa ein Geldautomat?
VeeRat (@[email protected])
I'm so disheartened about my job. We had a training about AI, and the person presenting just sounded so in love with it. Not as in appreciating a good tool to use, not like loving a new tool. She was actually in love with it, and even admitted to the need to stop thinking of AI as if it's a real person. She excitedly talked about human-like responses to her prompts, as if someone she has a crush on gave her attention. When I talk about my dislike for AI, how it can't be used ethically, how flawed it can be, I'm telling people that their crush is evil. They are reacting in a predictable way: with anger and hurt. It's an emotional topic. Talking about a set of code shouldn't be this emotional. The data centers that are the beating hearts of their love interests get a pass from them; they would destroy the whole planet to maintain this dopamine high and in fact they are gladly doing so. #NoAI #AISlop
charmingLiisa@formschub Naja, weil die Initatoren genau diese Abhängigkeit ja wollen. So wie halt auch viele Apps so gebaut sind, die Nutzer auf irgendeine Art und Weise "abhängig", manipulierbar, ja geradezu "süchtig" zu machen. Und in einer westlichen Gesellschaft, in der Einsamkeit ein riesen Problem ist, verfängt die sehr freundliche, kumpelhafte KI hervorragend.
@charmingLiisa Genau deshalb sollte dafür Bewusstsein geschaffen werden und vielleicht sogar gewarnt werden.
@charmingLiisa Es gab vor dem erwähnten Talk noch einen zweiten, der sich explizit dem Bereich der KI widmete, bei dem Bots, Companions, »künstliche Therapeuten« oder virtuelle spirituelle Assistenten so programmiert werden oder konfiguriert werden können, dass häufig und beabsichtigt eine tiefere emotionale Beziehung der User*innen zu diesen synthetischen »Persönlichkeiten« entsteht.