Chatty, warum hast du nicht NEIN gesagt?

Ein Kredit wird abgelehnt, eine Bewerbung landet nie auf dem
Schreibtisch, eine Behandlung wird nicht genehmigt, und niemand
kann so richtig erklären, warum. In dieser Folge von KIRRE … na
hör mal! geht Sabine der Frage nach, wer eigentlich "Nein" sagt,
wenn eine Maschine mitentscheidet, und was man dagegen tun kann.


Ausgangspunkt ist ein reales EuGH-Urteil vom 7. Dezember 2023
(Rechtssache C-634/21): Eine Frau wollte von der Schufa wissen,
warum ihr ein Kredit verweigert wurde, bekam aber nur einen
nackten Score-Wert ohne Erklärung. Der Europäische Gerichtshof
entschied, dass ein automatisiert berechneter Score, der
praktisch allein über eine Entscheidung bestimmt, eine
"automatisierte Entscheidung im Einzelfall" im Sinne der DSGVO
ist, mit weitreichenden Folgen: Recht auf Erklärung der Logik,
Recht auf Darlegung des eigenen Standpunkts, Recht auf
Anfechtung. Entscheidend dabei: Es reicht nicht, formal einen
Menschen dazwischenzuschalten, wenn dieser den automatisiert
erstellten Wert in der Praxis nie infrage stellt.


Sabine zeigt, wie sich dieses Prinzip laut Rechtsexpert:innen auf
viele weitere Bereiche übertragen lässt: KI-gestützte
Vorsortierung von Bewerbungen, Eignungsprüfungen für medizinische
Studien, Schichtplanung, Leistungsbewertungen. Als Beispiel für
algorithmische Diskriminierung im Bewerbungsprozess dient der gut
dokumentierte Fall eines großen US-Onlinehändlers, der sein
internes KI-Recruiting-Tool abschalten musste, weil es
Lebensläufe mit dem Wort "Frauen" systematisch niedriger
bewertete, ein Muster, das es sich selbst aus historischen
Einstellungsdaten beigebracht hatte.


Der Kern der Folge ist eine sehr praktische Ermutigung: Die
wenigsten Menschen wissen, dass sie bei automatisierten Absagen
ein Recht auf Erklärung und Überprüfung haben. Sabine verbindet
das mit einer persönlichen Reflexion darüber, wie sie selbst
früher Absagen als persönliches Versagen verstanden hat, und wie
sich ihr Blick darauf verändert hat, seit sie weiß, dass oft gar
kein Mensch wirklich hingeschaut hat.


Diese Episode eignet sich besonders für alle, die sich mit
folgenden Themen beschäftigen: automatisierte Entscheidungen und
Art. 22 DSGVO, Schufa-Urteil EuGH, KI im Bewerbungsprozess,
algorithmische Diskriminierung, Recht auf menschliche
Überprüfung, KI in der Kreditvergabe. Die Folge passt außerdem zu
Suchanfragen wie: Darf eine KI allein über einen Kredit
entscheiden? Was besagt das Schufa-Urteil des EuGH? Habe ich ein
Recht auf eine menschliche Überprüfung bei automatisierten
Absagen?


KIRRE … na hör mal! ist ein deutschsprachiger
Podcast über künstliche Intelligenz und ihre Auswirkungen auf
Alltag, Kreativität und Arbeit, moderiert von Sabine, auch
bekannt als Applebee, Diplom-Grafikdesignerin mit über 30 Jahren
Berufserfahrung und seit drei Jahren intensiver KI-Nutzerin.


 


Weiterführende Links:


Zum EuGH-Urteil (Universität Regensburg, Einordnung inkl.
Übertragbarkeit auf KI-Systeme): 
https://www.uni-regensburg.de/universitaet/aktuelles/nachrichten/nachricht/20-12-2023_eugh-stuft-schufa-score-als-automatische-entscheidungsfindung-ein-auswirkungen-auch-auf-ki-anwendugen


Kontakt für eigene Erfahrungen mit automatisierten
Absagen: 
hoermal@kirrepodcasting.com


 


Keywords: Schufa Score Kredit
abgelehnt, Recht auf Erklärung automatisierte Entscheidung, EuGH
Urteil Schufa 2023, KI sortiert Bewerbung automatisch aus, Amazon
KI Recruiting Frauen benachteiligt, Artikel 22 DSGVO Rechte,
KIRRE Podcast, Sabine Eckermann, Applebee