„Zur Verbesserung der Qualität, würden wir den Anruf gerne aufzeichnen.”

So ähnlich klingen die Bandansagen von Telefon-Hotlines meistens. Dabei kann es sein, dass eine KI die Stimme der Anrufer:innen auswertet – und sogar ihre Emotionen analysiert.

#EmotionRecognition #AIAct 🧵(1/11)

https://www.tagesschau.de/investigativ/br-recherche/ki-callcenter-stimme-100.html

Umstrittener KI-Einsatz im Callcenter: Der Algorithmus hört mit

Viele Unternehmen nutzen Künstliche Intelligenz zur Auswertung von Kundengesprächen. Solche Software kann auch Emotionen erkennen, zeigen BR-Recherchen. Datenschutzexperten sehen das kritisch.

tagesschau.de

Einer der weltweit größten Callcenter-Betreiber, @teleperformance, verfügt über eine KI, die unter anderem die Emotionen der Anrufenden und der Callcenter-Agent:innen erkennen soll.

Wie schnell sprechen Anrufer:innen am Telefon? Klingen sie aufgeregt, oder ängstlich? (2/11)

Drohen Kund:innen mit Vertragskündigungen oder Klagen? Das alles soll die KI auswerten, wie interne Dokumente von @TP_Germany belegen. Unklar ist, wie viele Hotline-Anrufe Teleperformance mit der Software analysiert. Der Konzern wollte sich auf unsere Anfrage nicht äußern. (3/11)

Bei 11880 („Da werden Sie geholfen") wertet eine KI in Echtzeit Sprachmelodie, Intensität, Rhythmus und Klang aus.

Insgesamt würden mehr als 6000 Parameter der Stimme analysiert, um daraus Emotionen zu errechnen, so Jörn Hausmann, Manager bei 11880. (4/11)

Die KI soll Gefühle wie Wut und Ärger, aber auch Freundlichkeit erkennen.

Während laufender Gespräche sehen die Agent:innen auf dem Bildschirm Smileys. Ein Smiley zeigt die Emotionen der Anrufer:innen, ein weiteres die der Callcenter-Agent:innen. (5/11)

So soll sichergestellt werden, dass die Agent:innen freundlich bleiben und die Kund:innen im besten Fall zufriedener auflegen.

Die Emotionen der Anrufer:innen werden bei 11880 auch ausgewertet, wenn sie der Aufnahme des Gesprächs nicht zugestimmt haben. (6/11)

Prof. Peter Wedde hält Emotionsanalyse in Callcentern für rechtlich unzulässig. Emotions-Analyse lasse „weitgehende Einblicke in die Persönlichkeit zu”. Im weitesten Sinne handele es sich um Gesundheitsdaten, deren Verarbeitung extrem strengen Voraussetzungen unterliege. (7/11)

11880 betont, für die Agenten sei die KI-Software zur Emotionsanalyse eine Unterstützung, ihr Einsatz durch den Betriebsrat genehmigt und von einem Datenschützer geprüft.

Darüber hinaus würden diese Analysen nicht gespeichert und keine Kundenprofile abgeleitet. (8/11)

In der Bandansage des Unternehmens ist nur von einer Auswertung „zur Prüfung und Verbesserung unserer Servicequalität” die Rede. Rechtsprofessorin Lena Rudkowski nennt das „rechtlich problematisch”. Emotionserkennung sei etwas, „womit der Kunde nicht rechnen muss”. (9/11)
@SLagodinsky, Abgeordneter für Bündnis 90/ Die Grünen im Europaparlament, nennt den Einsatz von KI zur Emotionserkennung „pseudowissenschaftlich”. Im BR-Interviewsagt Lagodinsky. „Jeder Mensch hat das Recht auf Innenleben und darauf, seine Emotionen nicht zu teilen.” (10/11)

Aktuell verhandeln Kommission, Rat und EU-Parlament noch über die endgültigen Inhalte des #AIAct. Die Position des Europaparlaments sieht vor, dass Emotionserkennung am Arbeitsplatz, im Bildungsbereich und zur Strafverfolgung verboten werden soll. (11/11)

https://www.ardaudiothek.de/episode/ard-radiofeature/abgehoert-doku-ueber-das-geschaeft-mit-ki-stimmanalyse/ard/94821776/

Abgehört - Doku über das Geschäft mit KI-Stimmanalyse

Alzheimer, Parkinson oder Depression - wenige Sekunden einer Sprachaufnahme reichen aus, um herausfinden, ob eine Person bereits erkrankt ist oder Gefahr läuft, in Zukunft krank zu werden. Davon sind die Entwicklerfirmen von speziellen KI-Systemen überzeugt. Die Stimme sei "das neue Blut" - mit dem sich viel Geld verdienen lässt. Mit Hilfe von Smartphones soll künftig jeder solche Daten selbst erheben können. 

ARD Audiothek