Patriarchat.exe läuft im Hintergrund – warum KI schockierend sexistisch ist

Wer sich bewirbt, wer einen Kredit bekommt oder welche Nachrichten
jemand ausgespielt bekommt – all das wird mittlerweile von
Algorithmen gesteuert. Doch Künstliche Intelligenz - angeblich so
objektiv und neutral - verhält sich oft wie ein Altherren-Club im
digitalen Gewand. Sie bevorzugt Männer, zeigt Frauen in stereotypen
Rollen oder lässt sie gleich ganz verschwinden. Während
Sprachassistentinnen mit sanfter Stimme Befehle entgegennehmen und
sich artig bedanken, haben KI-generierte CEOs und
Wissenschaftler*innen fast immer einen Anzug und einen
Y-Chromosomensatz. Sogar in der Medizin kommt es zu fatalen
Fehleinschätzungen, weil Algorithmen auf Datensätzen basieren, die
vor allem männliche Körper als Standard ansehen – und weibliche
Symptome deshalb viel zu oft übersehen. In dieser Folge von „MIT
HERZ UND KI“ spricht DUP-Redakteurin Fanny Rosenberg mit Eva
Gengler, einer der führenden Stimmen für faire Algorithmen.
Gemeinsam gehen sie der Frage nach, ob mit KI gerade eine Zukunft
programmiert wird, die eigentlich längst Vergangenheit sein sollte.
Doch warum kommen KI-Technologien überhaupt als digitaler
Chauvinist daher? Wie können wir diese maschinelle Diskriminierung
erkennen? Und wie können wir uns von diesen tiefsitzenden
Vorurteilen von KI-Systemen lösen?