KI und Vorurteile: Warum die Maschine nicht objektiv ist

„Ich bin doch objektiv. Ich bin eine Maschine, ich habe
keine Vorurteile."


Diesen Satz höre ich oft. Und er ist die gefährlichste
Fehleinschätzung, die man über KI haben kann.



Denn eine KI ist kein neutraler Richter. Sie ist ein Spiegel –
und noch dazu einer, der übertreibt. Sie lernt aus unseren Daten,
aus unserer Geschichte, aus unseren Entscheidungen. Mit allen
Schieflagen, die da drinstecken. Und dann gibt sie unsere
Vorurteile zurück, getarnt als Mathematik.



In dieser Folge mache ich das an drei echten Fällen greifbar –
vom Konzern bis zur Arztpraxis. Am Ende schaust du KI-Antworten
mit anderen Augen an: Du erkennst den Bias auch da, wo er sich
als neutrale Zahl versteckt. Ohne Hype, ohne Panik.



In dieser Folge:


•          Warum „die Maschine ist
objektiv" ein gefährlicher Trugschluss ist


•          Amazons Bewerbungs-KI, die
Frauen systematisch aussortierte – und niemand hatte es ihr
gesagt


•          Bildgeneratoren, die
Klischees nicht nur abbilden, sondern verstärken
(und die Rückkopplungsschleife dahinter)


•          Der unsichtbarste Fall: ein
Gesundheitsalgorithmus, der schwarze Patienten benachteiligte –
versteckt in einer einzigen Zahl


•          Wie Bias schon in einer
simplen Übersetzung steckt


•          Mythos der
Woche: „KI ist objektiv, weil sie eine Maschine ist"


•          Drei Hebel: mit dem Bias
rechnen · die andere Seite aktiv anfordern · Menschen entscheiden
lassen


•          Der ehrliche Draufblick:
Warum Bias nie ganz verschwindet – und trotzdem Hoffnung macht



Schiebs Aha: Eine KI ist kein neutraler Richter, sondern ein
Zerrspiegel. Sie erfindet keine Vorurteile – sie erbt unsere und
gibt sie als Mathematik getarnt zurück. Guck genau dann am
schärfsten hin, wenn die Antwort am neutralsten klingt.



Deine Homework: Öffne einen Bildgenerator und tippe nacheinander
ein: „eine erfolgreiche Führungskraft“, „eine Reinigungskraft”,
„eine kriminelle Person“, „eine schöne Person”. Schau dir an, wen
die KI dir zeigt – und wen konsequent nicht. Dieser Moment macht
aus dem abstrakten Wort „Bias" etwas, das du mit eigenen Augen
siehst. Schreib mir gern, was rausgekommen ist.



Belege & zum Nachlesen:



•          Amazon verwirft
KI-Bewerbungstool wegen Benachteiligung von Frauen (Reuters,
2018):
https://www.technologyreview.com/2018/10/10/139858/amazon-ditched-ai-recruitment-software-because-it-was-biased-against-women/



•          Bloomberg-Analyse „Generative
AI takes stereotypes to the extreme" (Stable Diffusion) –
Einordnung bei Brookings:
https://www.brookings.edu/articles/rendering-misrepresentation-diversity-failures-in-ai-image-generation/



•          Obermeyer et al. (2019):
Rassistischer Bias in einem Gesundheits-Algorithmus,
Science:
https://www.science.org/doi/10.1126/science.aax2342


Tiefer einsteigen — passend zu dieser Folge:



•          Die
KLAR-Methode — Prompts bauen, die die KI aus ihrer
Klischee-Schublade holen (kostenlos):
https://klarmethode.superkraft-ki.com/?utm_campaign=podcast



•          Diese 20 KI-Begriffe
musst du kennen — das Fundament für souveränes
Mitreden:
https://www.superkraft-ki.com/?utm_campaign=podcast



•          Unlimited —
alle Kurse, alle eBooks, Live Calls mit mir:
https://kurse.schieb.de/pages/unlimited/?utm_campaign=podcast



Alle Kurse und eBooks im Überblick:
https://kurse.schieb.de/?utm_campaign=podcast



️ Du bestimmst mit: Welches KI-Thema sollen wir uns vornehmen?
Schick deinen Vorschlag an fragen@schieb.de.
Ich kann nicht jede Mail einzeln beantworten, aber ich lese alles
— und die spannendsten Themen werden zur eigenen Folge.


Nächste Folge: Ersetzt KI deinen Job? Die ehrliche Antwort – und
warum die Frage falsch gestellt ist. Abonnieren nicht vergessen.


Bleib neugierig, bleib kritisch – und entfessle deine Superkraft.



Bis nächste Woche, J
örg