Hate Speech im Internet: KI und Content Moderation.

Hassrede im Internet ist für viele Menschen Teil des digitalen
Alltags geworden. Sie begegnet uns in Kommentarspalten sozialer
Medien – mal ganz offen, mal versteckt hinter Emojis,
Zahlenkombinationen und sogenannten Dog Whistles. Doch was genau
ist Hate Speech? Warum ist ihre Erkennung so schwierig? Und
welche Rolle kann Künstliche Intelligenz dabei spielen,
Online-Communitys zu schützen?



In dieser Folge sprechen wir darüber, wie Community-Manager:innen
mit Hassrede umgehen, warum Kontext bei der Bewertung von Sprache
entscheidend ist und weshalb automatisierte Moderation trotz
großer Fortschritte noch an ihre Grenzen stößt. Zudem geht es um
die Dynamiken sozialer Plattformen, die Verbreitung von Hass
durch Algorithmen und die Frage, wie KI-Systeme Menschen bei der
Content Moderation sinnvoll unterstützen können, ohne dabei
wichtige Stimmen zu unterdrücken.

+++



Daniel Brockmeier betreut als Community- und
Social-Media-Manager diverse Online-Communitys. Die Moderation
von Hate Speech und Shitstorms gehört zu seiner täglichen Arbeit.
In seinem Philosophie-Podcast "Privatsprache" beschäftigt Daniel
sich ebenfalls mit KI-Themen.



Sina Zarrieß erforscht als Professorin für
Computerlinguistik an der Universität Bielefeld Methoden des
maschinellen Lernens zur Analyse von Sprache. Sie ist Principal
Investigator im Projekt "Sail", in dem es um nachhaltige
intelligente soziotechnische Systeme geht, sowie im SFB 1646
"Sprachliche Kreativität in der Kommunikation".

+++

Linkliste


Alacam, Hoeken & Zarrieß (2024). Eyes Don’t Lie:
Subjective Hate Annotation and Detection with Gaze. Proceedings
of the 2024 Conference on Empirical Methods in Natural Language
Processing.

Hoeken, Zarrieß & Alacam (2023). Identifying Slurs and
Lexical Hate Speech via Light-Weight Dimension Projection in
Embedding Space. Proceedings of the 13th Workshop on
Computational Approaches to Subjectivity, Sentiment, & Social
Media Analysis.

Worteinbettung (Wikipedia)



+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt
euch ein, wir freuen uns!


Unsere E-Mail-Adresse:
autonomie-algorithmen@lists.techfak.uni-bielefeld.de

Unser Bluesky-Profil:
https://bsky.app/profile/auto-algo.bsky.social

Unser Kontaktformular:
https://autonomie-algorithmen.letscast.fm/feedback



+++



"Autonomie und Algorithmen: Freiheit im Zeitalter von KI"
ist eine Gemeinschaftsproduktion.Konzeption und
Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.


Redaktionelle Unterstützung: Ingrid Rogalski.


Postproduktion: Ingrid Rogalski und Lena Ackermann.


Musik: Almut Schwacke.


Grafikdesign: Sven Sedivy.



Dieser Podcast wird gefördert vom Bundesministerium für Bildung
und Forschung im Rahmen des Projekts KI-Akademie OWL.