JacBellonThanks to BR - Bayerischer Rundfunk and ARD for inviting me to speak about the topic “Can AI lie? How manipulative are chatbots” in an episode of the IQ -Wissenschaft und Forschung Podcast.
We discussed some recent studies on "deception abilities" in LLMs and I am happy to see that what me and colleagues Benjamin Lange and Katharina Prof. Dr. Zweig had to say wasn't condensed into the clickbait headlines it could have been used for and was rather used to raise awareness about limitations of GenAI and human control and responsibility to decide where to use LLMs and where *not to*.
Some aspects discussed were #hallucinations, #sycophancy, the definition of what a #lie implies, an understanding of #truth, #theory of #mind, #intentionality, and consciousness.
The episode (in German) can be found here
Kann KI lügen? - So manipulativ sind Chatbots - IQ - Wissenschaft und Forschung | BR Podcast
Chatbots halluzinieren, erfinden Sachverhalte, verbreiten Unwahrheiten. Aber können sie auch gezielt intrigieren und uns betrügen und manipulieren? Können sie am Ende also auch absichtlich "lügen", um eigene Ziele zu verfolgen? Welche Gefahr geht davon aus und wie sollten wir als Gesellschaft darauf reagieren? Ein Podcast von Martin Schramm.