Radiomachen

Es klingt wie Tagesschausprecher Jens Riewa, ist aber ein Fake. Ihm werden erfundene Sätze in den Mund gelegt. Bei einer Pegida-Demo.

Kurzum: Stimmsynthese für jedermann. Die Büchse der Pandora auf der Straße.

Und weit und breit kein Gesetz, dass das Recht an der eigenen Stimme schützt. Nicht dass man es nicht hat kommen sehen... Wahnsinn.
#Thread 1/x

Nov 14, 2023 at 10:07pmWeb
Show threadRadiomachenNov 14, 2023

Außerdem wirbt die Bild-Zeitung mit der Stimme von Olaf Scholz und lässt „ihn“ frei erfundene Dinge sagen.

Der Spot läuft auch als Audio im Radio. Am Ende wird gesagt, dass das nicht der echte Scholz war. Der Höreindruck: Bämm!

Mir scheint es problematisch, dass sowas im direkten Umfeld der Nachrichten zu hören ist. Das färbt ab auf die Glaubwürdigkeit journalistischer Audios.

Ich finde: Es braucht gesetzliche und berufsethische Regeln. Längst schon. Aber spätestens jetzt.

Show threadRadiomachenNov 14, 2023
Audios, die klingen als hätten Kanzler oder Tagesschausprecher dies oder jenes gesagt, obwohl das nie der Fall war, ist inzwischen ein Kinderspiel. Ich denke: Das muss Gesetzgeber+Journalisten interessieren. Im SWR hab ich erklärt, warum: https://www.swr.de/swr2/leben-und-gesellschaft/tagesschau-fake-wie-einfach-ist-es-jens-riewa-zu-faelschen-100.html 3/3 #Stimmsynthese
Tagesschau-Fake: Wie einfach ist es, Jens Riewa zu fälschen?

Zurzeit kursieren im Netz Audiodateien, die wie Mitschnitte der Tagesschau mit Susanne Daubner oder Jens Riewa klingen. Das sei möglich mittels „Stimmsynthese“, erklärt Sandra Müller, multimediale Redaktionsleiterin des SWR-Studios Tübingen. Die KI schaue sich die Besonderheit der Stimme an und könne genau diese Stimme neu synthetisieren, sagt Müller.

swr.online
Show threadRadiomachenNov 14, 2023
Übrigens: Dank der Möglichkeit zur #Stimmsynthese sitzen alle, von denen es gute Audioaufnahmen gibt, mehr denn je auf dem Präsentierteller. Fakes sind einfach herstellbar. Und da Sprachnachrichten so beliebt sind und die auch oft schon gute Qualität haben: Bingo. #Thread
Show threadRadiomachenNov 14, 2023
Späße (nett gemeinte+bösartige)- werden dank #Stimmsynthese bald üblich sein. Betrug auch, weil vermeintliche Echtzeittelefonate mit jeder Stimme möglich sind. Erste „Enkeltricks“ diser Art gabs schon. Noch ist die Methode etwas zu aufwändig. Aber das kann und wird sich vermutlich bald ändern.#Thread
Show threadAndreas TengickiNov 15, 2023
@radiomachen Das sowas von "journalistischen" Formaten kommt ist und bleibt Demokratie gefährdend. Springer enteignen, war schon in den 70ern die richtige Forderung und ist es heute noch.
Show threadNike LeonhardNov 15, 2023
@radiomachen Olaf Scholz könnte schon jetzt dagegen vorgehen. Basis wären u. a. der "Herrenreiter-Fall" und die "Caroline-Urteile" des BGH. Als Jurist weiß Scholz das auch, weil der "Herrenreiter-Fall" zu den Klassikern der Juristenausbildung gehört und in jedem Lehrbuch erwähnt wird. Nur fürchte ich, dass unser Bundeskanzler ein Duckmäuser ist, der sich nicht mit der Springerpresse anlegen will.
Show threadRadiomachenNov 15, 2023
@Nike_Leonhard Keine Frage: Es wird mal ein Präzedenzurteil brauchen a la „Herrenreiter“, in dem ein Gericht, das Recht an der eigenen Stimme für so schützenswert erklärt wie am eigenen Bild. Ich befürchte nur: Das reicht eigentlich nicht. Warum nicht ein klarer Paragraf analog zum Schutz der Vertraulichkeit des Wortes (StGB Paragraf 201)?
Show threadNike LeonhardNov 16, 2023
@radiomachen Da passt es m. E. überhaupt nicht, weil es in diesem Abschnitt um den Schutz der Privatsphäre geht. Durch diese KI-generierten "Bekenntnisse" werden aber keine Geheimnisse verraten, sondern das ist ein Angriff auf die Persönlichkeit. Das gleiche gilt für alle anderen Deep-Fakes. Wenn man die strafbar machen will, wäre der entsprechende Tatbestand daher m. E. unter den Beleidigungsdelikten sinnvoller aufgehoben.
Show threadMora L. Apostel 🏴‍☠️Nov 15, 2023
@radiomachen vor 100 Jahren war es der Rundfunkempfänger, der die Propaganda in die „Guten Stuben“ brachte. Heute wird mittels KI einfach gefaked und so getan. Es kommt der Tag, an dem man nichts mehr glauben kann. Und der Gesetzgeber tut wie immer nichts zur Regulation.
Show threadDer Entgegner (Aka Ratatöskr)Nov 15, 2023
@radiomachen pegida gibt's noch? Wow.
Show threadEloshaNov 15, 2023
@dr_jo_mue @radiomachen Ja, ich staune auch. Und offenbar ging es der Pegida nie um Islamisierung, sondern nur um das Dagegensein gegen alles. Wer hätte das gedacht? 🤪