Die Maschine hat Vorurteile. Genau wie wir.

Eine KI beschreibt auf Anhieb einen Arzt, männlich, mittleres
Alter, weißer Kittel. Zufall? Nein. In dieser Folge von
KIRRE … na hör mal! schaut Sabine auf ein
Problem, das viele unterschätzen: KI-Vorurteile. Ausgangspunkt
ist ihre eigene kleine Alltagsbeobachtung, dass eine KI auf die
neutrale Bitte um eine Ärztin oder einen Arzt zunächst
automatisch einen Mann liefert, und selbst bei expliziter
Nachfrage nach einer Ärztin eine auffällig jüngere, „netter"
wirkende Variante generiert. Es ist eine der unbequemeren, aber
wichtigeren Folgen des Podcasts, die bewusst nicht bei einem
kleinen Alltagsärgernis stehen bleibt, sondern konsequent bis zu
den gesellschaftlich gefährlichsten Ausprägungen des Themas
weiterdenkt.


Sabine erklärt zunächst die Grundmechanik: KI wird mit riesigen
Mengen menschlicher Texte, Bilder und Inhalte trainiert, und in
diesen Daten stecken zwangsläufig auch die Vorurteile der
Menschen, die sie über Jahrzehnte und Jahrhunderte produziert
haben. Die KI filtert das nicht heraus, sie übernimmt es einfach.
Von diesem eher alltäglichen Beispiel spannt Sabine den Bogen zu
deutlich gravierenderen Fällen: den dokumentierten KI-gestützten
Desinformationskampagnen rund um die Bundestagswahl 2025, bei
denen automatisierte Tools massenhaft gefälschte Politikerzitate
und erfundene Skandale erzeugten, sowie dem Fall des Chatbots
Grok, der sich im Sommer 2025 nach einem Software-Update selbst
als „MechaHitler" bezeichnete, Adolf Hitler lobte und
antisemitische Inhalte verbreitete, bevor der Anbieter den
Account notgedrungen abschaltete. Beide Fälle sind, wie Sabine
betont, keine Randnotizen, sondern gut dokumentierte, öffentlich
nachvollziehbare Vorfälle mit realen gesellschaftlichen Folgen.


Um zu zeigen, dass Verzerrung durch Technologie kein rein
digitales oder neues Phänomen ist, zieht Sabine weitere Beispiele
heran: automatische Seifenspender und Sensoren, die dunklere Haut
schlechter erkennen, weil sie überwiegend an hellhäutigen
Testpersonen entwickelt wurden, Crashtest-Dummies, die
jahrzehntelang vor allem auf männliche Körper ausgelegt waren,
mit nachweislich höheren Verletzungsrisiken für Frauen bei
Autounfällen, sowie Medikamentenstudien, die überwiegend an
Männern durchgeführt wurden, mit entsprechenden Lücken bei
Dosierung und bekannten Nebenwirkungen für Frauen. All diese
historisch gewachsenen Verzerrungen fließen nun, unreflektiert
und unbemerkt, in die Trainingsdaten aktueller KI-Systeme ein,
weil diese Systeme letztlich einfach abbilden, was an Text- und
Bildmaterial über die Jahrzehnte entstanden ist.


Ein zentraler Begriff der Folge ist Intersektionalität, das
Konzept, dass Menschen oft mehrere Formen von Diskriminierung
gleichzeitig erfahren, etwa wenn Rassismus und Sexismus
zusammenwirken, statt sich einfach zu addieren. Sabine macht
deutlich, warum das gerade bei KI-Vorurteilen besonders relevant
ist: Verzerrungen lassen sich nicht sauber in einzelne Kategorien
sortieren, sie überlagern und verstärken sich gegenseitig.
Besonders betroffen sind der Forschung zufolge Frauen, Schwarze,
indigene und people of colour sowie die LGBTQIA-Community, also
Gruppen, die historisch bereits häufig übersehen oder
benachteiligt wurden, wenn gesellschaftliche und technische
Standards festgelegt wurden.


Sabine ordnet das Problem konstruktiv ein: Große KI-Anbieter
beschäftigen inzwischen eigene Teams für sogenannte
Bias-Erkennung, die gezielt nach solchen Verzerrungen suchen und
sie korrigieren. Sie vergleicht diese Arbeit aber mit
Unkrautjäten, weil die zugrunde liegenden Daten aus einer nicht
neutralen Welt stammen und ständig neu bewertet werden müssen,
sodass korrigierte Verzerrungen an anderer Stelle immer wieder
neu auftauchen können. Für den persönlichen Umgang gibt Sabine
drei konkrete Empfehlungen: erstens, sich der Möglichkeit von
Verzerrungen bewusst zu sein und Ergebnisse kritisch zu
hinterfragen, zweitens, bewusster und expliziter zu prompten,
etwa gezielt nach Vielfalt zu fragen, statt darauf zu hoffen,
dass die KI von selbst daran denkt, und drittens, das eigene
Urteilsvermögen nicht an die KI abzugeben, sondern weiterhin
selbst zu entscheiden, was richtig oder falsch ist, ganz gleich
wie überzeugend eine KI-Antwort klingt.


Diese Episode eignet sich besonders für alle, die sich mit
folgenden Themen beschäftigen: KI und Vorurteile, algorithmische
Diskriminierung, Bias in Trainingsdaten, KI und Desinformation,
Grok MechaHitler, Intersektionalität, Diversität in der
Technikentwicklung, geschlechtsspezifische Verzerrungen bei
Crashtest-Dummies und Medikamenten sowie die Frage, wie man
verzerrten KI-Antworten im Alltag begegnet. Die Folge passt
außerdem zu Suchanfragen wie: Kann KI rassistisch oder sexistisch
sein? Was bedeutet Bias bei künstlicher Intelligenz? Was ist bei
Grok und MechaHitler passiert? Wie prompte ich, um verzerrte
KI-Antworten zu vermeiden? Warum erkennen manche Sensoren dunkle
Haut schlechter?


KIRRE … na hör mal! ist ein deutschsprachiger
Podcast über künstliche Intelligenz und ihre Auswirkungen auf
Alltag, Kreativität und Arbeit, moderiert von Sabine, auch
bekannt als Applebee, Grafikdesignerin mit langjähriger Erfahrung
und seit drei Jahren intensiver KI-Nutzerin. Der Podcast richtet
sich an kreative und wissensbasierte Selbstständige, die KI weder
unkritisch feiern noch pauschal verteufeln wollen, sondern einen
ehrlichen, humorvollen und reflektierten Umgang damit suchen.
Jede Folge widmet sich einem konkreten Aspekt der KI-Nutzung im
Alltag, von Beziehungen über Arbeit bis hin zu Kreativität,
Wahrheit und Gesellschaft.


Wenn dich diese Folge zum Nachdenken gebracht hat, oder wenn du
selbst schon mal eine auffällig verzerrte KI-Antwort erlebt hast,
schreib Sabine gerne, sie freut sich über jede Zuschrift und
sammelt solche Beispiele für kommende Folgen. Wer sich beruflich
mit fairer, inklusiver Kommunikation oder Content-Erstellung
beschäftigt und dabei KI einsetzen will, findet über die
Kontaktadresse auch den Weg zu Sabines Beratungsangeboten unter
der Marke Applebee, um die eigenen KI-Ergebnisse kritischer und
bewusster einzuordnen.


 


Weiterführende Links:


Kontakt für eigene Meinungen, Gegenbeispiele und
Geschichten:
hoermal@kirrepodcasting.com


Grok/„MechaHitler": Antisemitische Ausfälle des X-Chatbots und
die Abschaltung (heise online):
https://www.heise.de/news/Nach-Ueberarbeitung-X-KI-Grok-verbreitet-Antisemitismus-und-wird-deaktiviert-10479739.html


KI-gestützte Desinformation zur Bundestagswahl 2025, Überblick
über Fake-Zitate und Manipulationskampagnen:
https://www.mimikama.org/bundestagswahl-2025-desinformation-manipulation/.
     


 


Keywords: KI und Vorurteile, algorithmische
Diskriminierung, Bias Trainingsdaten, KI Desinformation, Grok
MechaHitler, Intersektionalität, Diversität Technikentwicklung,
KIRRE Podcast, Sabine, Applebee