Das finde ich jetzt aber noch beunruhigender als generierte Bilder. Stimmen aus wenigen Sätzen nachzubilden.

https://www.golem.de/news/angebliche-entfuehrung-mutter-wird-von-ki-stimme-ihrer-tochter-getaeuscht-2304-173386.html

Virtual Kidnapping: Mutter wird von KI-Stimme ihrer Tochter getäuscht - Golem.de

Eine Mutter hat einen Lösegeldanruf mit der angeblichen Stimme ihrer Tochter erhalten – doch diese war KI-generiert.

Golem.de

@wumble alles könnte für etwas Gutes genutzt werden. Zb. Menschen eine Stimme wiederzugeben die diese verloren haben...

So ist es leider mit vielen Sachen. Die Einsatzmöglichkeit&der Missbrauch dieser. Da kommen noch einige Herausforderungen auf uns zu und wie damit umgegangen wird. Gesetze etc.

Ich beobachte es mit Neugierde - was technisch möglich ist - vermengt mit einer gesunden Skepsis. Du hast recht. Die Vorstellung ist wahrlich gruselig mit der Stimme.

@wumble da wäre es spannend zu wissen: Werden in die Stimme auch Worte eingefügt die nur dieser Mensch mehrmals nutzt oder der Klang dabei? Am Ende könnten wir immer Sicherheitsfragen einbauen die nur dieser Mensch kennt oder erlebtes erfragen. Klar, wie bei dem verlinkten Fall sicher etwas schwieriger…