Wie (un)fair ist künstliche Intelligenz - und warum?

Wenn wir eine Bild-KI bitten, einen Menschen darzustellen,
erhalten wir erstaunlich oft ein ähnliches Bild: Ebenmäßiges
Aussehen und makellose Haut - irgendwie normschön, glatt. Aber
ist die KI deshalb unfair – oder zeigt sie uns, welche
Vorstellungen und Urteile sie von uns Menschen gelernt hat?


In Folge #33 spricht Petra Liebl mit der Data Scientist
und KI-Trainerin Simone Scholz über Fair AI und die Frage, wie
menschliche Vorurteile in KI-Systeme gelangen. An
Beispielen aus Recruiting, Kreditvergabe, Wohnungssuche,
Polizeiarbeit, Medizin und Marketing wird deutlich, wie verzerrte
Daten reale Entscheidungen beeinflussen können.

KI-Outputs sollten nie unkritisch übernommen werden. Denn KI kann
bestehende Vorurteile reproduzieren und verstärken – etwa wenn
sie beim Beruf Mechaniker automatisch an einen Mann statt an eine
Mechanikerin denkt. Aber warum ist das so, und was können wir
dagegen tun?


Besonders problematisch ist die Skalierung: Während einzelne
Menschen nur eine begrenzte Zahl an Entscheidungen treffen, kann
ein KI-System dieselbe Schieflage tausendfach wiederholen.
Deshalb braucht es vielfältige Teams, eine bewusste Kontrolle der
Ergebnisse und Menschen, die Verantwortung übernehmen.


Simone zeigt außerdem, wie wir bereits beim Prompten gegen
stereotype Rollenbilder steuern, diskriminierende Ergebnisse
hinterfragen und unsere persönlichen oder unternehmerischen Werte
in die Arbeit mit KI einbringen können.


Gesprächspartnerin Simone Scholz, Data Scientist und
KI-Trainerin


Simone Scholz ist Data Scientist und selbstständige KI-Trainerin
mit einem Schwerpunkt auf Fair AI und Female AI. In ihrer
früheren Tätigkeit bei A1 gestaltete sie Themen von
Marketinganalysen bis zum Change Management mit. Ihr Weg führte
sie vom Ballett und der Bühne der Wiener Staatsoper in die Welt
der Daten. Fairness begleitet ihren Werdegang als persönliches
und fachliches Leitmotiv.


Key Takeaways aus der Episode


KI ist ein Spiegel und Verstärker – sie verdichtet Muster aus
menschlich erzeugten Daten und kann vorhandene Verzerrungen in
großem Maßstab wiederholen.

Bias kann an mehreren Stellen entstehen – in Trainingsdaten,
im Algorithmus oder bei der Bewertung und Anwendung eines
Systems.

Skalierung vergrößert die Wirkung – aus einer verzerrten
menschlichen Entscheidung kann ein tausendfach automatisiertes
Muster werden.

Vielfalt ist ein Qualitätsfilter – unterschiedliche
Erfahrungen im Team helfen, blinde Flecken und negative Folgen
früher zu erkennen.

KI-Ausgaben sind keine Wahrheiten – stereotype oder
diskriminierende Ergebnisse sollten hinterfragt, korrigiert und
um andere Perspektiven ergänzt werden.

Werte brauchen Kontinuität – persönliche und unternehmerische
Grundsätze müssen bewusst in die Arbeit mit KI einfließen und
regelmäßig überprüft werden.

Der Mensch bleibt verantwortlich – bei Entscheidungen mit
realen Folgen braucht es Human in the Loop und die Bereitschaft,
einen unfairen Einsatz notfalls nicht umzusetzen.



Über Simone Scholz


Simone Scholz ist Data Scientist und selbstständige KI-Trainerin
mit einem Schwerpunkt auf Fair AI und Female AI. In ihrer
früheren Tätigkeit bei A1 gestaltete sie Themen von
Marketinganalysen bis zum Change Management mit. Ihr Weg führte
sie vom Ballett und der Bühne der Wiener Staatsoper in die Welt
der Daten.
 


Links


Simone Scholz auf Linked in und
https://simonescholz.at (launching soon) 

Petra Liebl, Content Bakery  und ihr
KI-Marketingassistent FELIX



 


Das „Große Ganze“ sehen
Gerade KI - die menschliches Denken nachahmt – setzt für
gelingende Transformation voraus, dass Menschen und Mitarbeiter
im Zentrum der Betrachtung stehen. 
"Ein Unternehmen ist eine Ansammlung von Menschen, die zu
einem bestimmten Zweck zusammenarbeiten". Dabei geht es
darum, Ängste ernst zu nehmen und gleichzeitig Begeisterung für
neue Möglichkeiten der Digitalisierung zu wecken.


 


In "Vom Hype zum Handeln" werden wir


KI-Entwicklungen besprechen und einsortieren

Experteninterviews mit Praktikern bieten

konkrete Implementierungsbeispiele vorstellen

eigene Experimente und Erfahrungen teilen

verschiedene Anwendungsfelder beleuchten



Deine Hosts: Experten aus digitalem Marketing,
Organisationsentwicklung / IT


Mit ihrem digitalen bzw. IT-Hintergrund geht es den Hosts Petra
und Daniel darum, den Blick weg von Technik, hin zum zentralen
Erfolgsfaktor für digitale Transformation zu lenken: Dem aktiven
Gestalten von und für Menschen in Organisationen.

Petra LIEBL 
Als erfahrene Onlineexpertin und zertifizierte Digitalberaterin
verbindet Petra Strategie, digitales Marketing und KI zu
wirkungsvollen Online-Lösungen für Unternehmer:innen.


www.contentbakery.at  info@contentbakery.at


Weitere Beiträge zum Thema digitale Transformation findest
gesammelt du unter https://vom-hype-zum-handeln.com  .