Black Lives, Trans Rights und Algorithmen | Sabine Faller, Laura Schelenz & Regina Ammicht Quinn

Digilounge Digital | Online Diskussion


[19.11.2020]


Im Rahmen der Diskussionsreihe #digiloglounge sprechen unsere
ForscherInnen Laura Schelenz und Regina Ammicht Quinn mit Sabine
Faller über die Problematik ungerechter Algorithmen. Unsere
Gesellschaft ist geprägt von Strukturen der Ungleichheit. Ob Mann
oder Frau, jung oder alt, West oder Ost, Stadt oder Land – unsere
alltägliche Realität kann sich teils erheblich voneinander
unterscheiden. Das hängt davon ab, welchen strukturellen Vor- und
Nachteilen wir jeweils ausgesetzt sind. Strukturelle
Ungleichheiten sind in unseren politischen und sozialen
Institutionen eingeschrieben. Sie führen zu einer ungleichen und
ungerechten Behandlung verschiedener sozialer Gruppen. Dies ist
zum Beispiel der Fall bei Rassismus oder (Hetero)Sexismus.
Zunehmend setzt sich die Wissenschaft mit dem Problem
auseinander, wie strukturelle Ungleichheiten bewusst oder
unbewusst in moderne Technologien eingeschrieben werden. Technik
kann sogar mitunter die strukturelle Diskriminierung von
bestimmten Gruppen verstärken. Insbesondere betroffen sind
Menschen, die ohnehin in der Gesellschaft marginalisiert werden.
Dies hat mit der Entwicklung von Algorithmen zu tun.
Algorithmische Systeme sind Computermodelle, die anhand von
Datensätzen trainiert werden, eine bestimmte Aufgabe zu lösen.
Häufig verfügen diese Datensätze selbst über Verzerrungen, zum
Beispiel indem sie über einen hohen Anteil von Daten weißer
Menschen verfügen, aber nur über einen geringen Anteil von
Informationen über Menschen mit dunkler Hautfarbe. Es gibt aber
auch persönliche Annahmen und Vorurteile, die Entwickler-Teams
dazu motivieren, Technik »für« bestimmte Personengruppen zu
designen. Dabei werden die Bedürfnisse von weniger beachteten
Gruppen vernachlässigt. Dieser Vortrag beschäftigt sich mit
struktureller Diskriminierung durch Technik. Er diskutiert einige
Fallbeispiele, unter anderem die Diskriminierung von schwarzen
Frauen durch Gesichtserkennungs-Software oder die Diskriminierung
von Transgender bei der Sicherheitskontrolle am Flughafen. Dabei
werden größere Zusammenhänge der heutigen Technikentwicklung
deutlich. Der Vortrag nimmt Bezug auf die Black Lives Matter
Bewegung in den USA und diskutiert ihre Relevanz im Kontext des
Themas. Es werden Ansätze für eine gerechtere Technikentwicklung
vorgestellt, wie beispielsweise die des Netzwerks »Design
Justice«. Die Veranstaltung ist Teil der
#digiloglounge-Gesprächsreihe. Einmal im Monat geben ExpertInnen
von digilog@bw einen Einblick in ihre digitalen Forschungsthemen
und beantworten Fragen im Video-Livestream! Die Veranstaltung
wird von der Telegram-Gruppe https://t.me/zkm_digiloglounge
begleitet. Wir laden herzlich dazu ein, Fragen im Chat der Gruppe
zu stellen und in die Diskussion einzusteigen!