Startseite
Podcasts
Software Testing & Qualität - Testautomatisierung, KI & Agilität Podcast
KI-Bias: Menschen übernehmen Vorurteile von Algorithmen - Sam Goetjes

KI-Bias: Menschen übernehmen Vorurteile von Algorithmen - Sam Goetjes

Software Testing & Qualität - Testautomatisierung, KI & Agilität vor 11 Monaten

Wenn der Algorithmus die Meinung formt

0:00

23:36

In dieser Episode spreche ich mit Sam Goetjes über Vertrauen,
Vorurteile und Fairness in KI-gestützten Entscheidungen.
Ausgangspunkt ist ihre Masterarbeit: Ein Bewerbungssetting mit
menschlichen und algorithmischen Empfehlungen, dazu ein
manipulierter Gender Bias. Erkenntnis: Teilnehmende passten ihre
Bewertungen über die Zeit an. Beim Algorithmus sogar schneller und
stärker. Vertrauen entsteht nach denselben Mustern wie bei
Menschen. Heftig, oder? Für uns im Testen heißt das: nicht nur
Modelle und Performance prüfen, sondern Bias-Risiken monitoren,
Pilotphasen sauber aufsetzen, Parallelvergleiche fahren und
Datenquellen offenlegen. Wir sind beeinflussbar. Systeme auch. Wie
halten wir beides in Schach? Genau darum geht es.