Startseite
Podcasts
Kaffee, KI und Klartext Podcast
#4 - Wer hat der KI eigentlich Vorurteile beigebracht? - Die Sache mit dem AI Bias

#4 - Wer hat der KI eigentlich Vorurteile beigebracht? - Die Sache mit dem AI Bias

Kaffee, KI und Klartext vor 3 Tagen

0:00

21:22

Kann KI überhaupt objektiv sein? Schließlich lernt sie aus Daten,
die von Menschen gemacht wurden – und diese Daten stecken voller
gesellschaftlicher Muster, Vorurteile und Ungleichheiten.

Wir sprechen darüber, wo Bias in KI-Systemen entsteht, warum
moderne Modelle zwar besser geworden sind, aber längst nicht
automatisch objektiv sind. Und wir drehen die Perspektive einmal
um: Was kann uns der Bias einer KI vielleicht sogar über uns
selbst zeigen?

Wir schauen uns an:

Was bedeutet Bias überhaupt?

Warum Nachtraining und menschliches Feedback das Problem
nicht automatisch lösen,

Warum Bias nicht nur ein technisches, sondern auch ein
gesellschaftliches Thema ist,

und warum moderne KI-Modelle zwar besser geworden sind, aber
trotzdem nicht automatisch biasfrei sind.

Besonders relevant wird das, wenn KI Entscheidungen unterstützt,
die echte Konsequenzen für Menschen haben – zum Beispiel im
Recruiting.

Und zum Mitmachen gibt's auch eine kleine Challenge: Fragt eure
KI bei der nächsten Aufgabe einmal, welche Annahmen oder
Stereotype in ihrer Antwort stecken könnten.

Schreibt es uns gern in die Kommentare!

Grüße aus der Kaffeeküche,

Franzi und Anna, die Hosts von Kaffee, KI und Klartext

Spannende Studien zu dem Thema:

NIST – Artificial Intelligence Risk Management Framework:
Generative Artificial Intelligence Profile

Grundlage für die Abschnitte zu Bias als technischem und
gesellschaftlichem Problem sowie zu Unterschieden zwischen
Gruppen und Sprachen. NIST – AI Risk Management Framework:
Generative AI Profile

NIST – „There’s More to AI Bias Than Biased Data“

Für die Erklärung, dass Bias nicht ausschließlich aus
Trainingsdaten oder Algorithmen entsteht, sondern auch mit
menschlichen und systemischen Faktoren zusammenhängt. NIST –
There’s More to AI Bias Than Biased Data

Stanford HAI – AI Index Report 2026, Responsible AI

Für den aktuellen Stand der Bewertung von Responsible AI,
Fairness und Bias sowie die weiterhin bestehenden Lücken bei
einheitlichen Benchmarks. Stanford AI Index 2026 – Responsible
AI

ACL 2026 – Multilingual Bias in LLMs

Aktuelle Forschung dazu, dass sich Bias zwischen Sprachen
unterscheiden kann und englischzentrierte Methoden zur
Bias-Reduktion nicht automatisch auf andere Sprachen übertragbar
sind. ACL Anthology – 2026 ACL/SRW Research

ACL 2026 – Subtle Stereotypes in Modern LLMs

Aktuelle Untersuchung dazu, dass moderne, auf Sicherheit
ausgerichtete Modelle in offenen generativen Situationen
weiterhin stereotype Muster reproduzieren können. ACL Anthology –
2026 LREC Research