Hate Speech im Internet: KI und Content Moderation.

Hassrede im Internet ist für viele Menschen Teil des digitalen Alltags geworden. Sie begegnet uns in Kommentarspalten sozialer Medien – mal ganz offen, mal versteckt hinter Emojis, Zahlenkombinationen und sogenannten Dog Whistles. Doch was genau ist Hate Speech? Warum ist ihre Erkennung so schwierig? Und welche Rolle kann Künstliche Intelligenz dabei spielen, Online-Communitys zu schützen?In dieser Folge sprechen wir darüber, wie Community-Manager:innen mit Hassrede umgehen, warum Kontext bei der Bewertung von Sprache entscheidend ist und weshalb automatisierte Moderation trotz großer Fortschritte noch an ihre Grenzen stößt. Zudem geht es um die Dynamiken sozialer Plattformen, die Verbreitung von Hass durch Algorithmen und die Frage, wie KI-Systeme Menschen bei der Content Moderation sinnvoll unterstützen können, ohne dabei wichtige Stimmen zu unterdrücken.+++Daniel Brockmeier betreut als Community- und Social-Media-Manager diverse Online-Communitys. Die Moderation von Hate Speech und Shitstorms gehört zu seiner täglichen Arbeit. In seinem Philosophie-Podcast "Privatsprache" beschäftigt Daniel sich ebenfalls mit KI-Themen.Sina Zarrieß erforscht als Professorin für Computerlinguistik an der Universität Bielefeld Methoden des maschinellen Lernens zur Analyse von Sprache. Sie ist Principal Investigator im Projekt "Sail", in dem es um nachhaltige intelligente soziotechnische Systeme geht, sowie im SFB 1646 "Sprachliche Kreativität in der Kommunikation".+++LinklisteAlacam, Hoeken & Zarrieß (2024). Eyes Don’t Lie: Subjective Hate Annotation and Detection with Gaze. Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing.Hoeken, Zarrieß & Alacam (2023). Identifying Slurs and Lexical Hate Speech via Light-Weight Dimension Projection in Embedding Space. Proceedings of the 13th Workshop on Computational Approaches to Subjectivity, Sentiment, & Social Media Analysis.Worteinbettung (Wikipedia)+++Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!Unsere E-Mail-Adresse: [email protected] Bluesky-Profil: https://bsky.app/profile/auto-algo.bsky.socialUnser Kontaktformular: https://autonomie-algorithmen.letscast.fm/feedback+++"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.Konzeption und Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.Redaktionelle Unterstützung: Ingrid Rogalski.Postproduktion: Ingrid Rogalski und Lena Ackermann.Musik: Almut Schwacke.Grafikdesign: Sven Sedivy.Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL.