Spotify kennt deinen Musikgeschmack. Jedenfalls glaubt Spotify
das. Wenn Kinder oder Enkel*innen auf deinem Konto ihre
Lieblingslieder in Dauerschleife hören, kann der persönliche
Jahresrückblick allerdings aussehen, als hättest du zwölf Monate
lang ausschließlich singende Prinzessinnen, Zeichentrickdrachen
und Schlaflieder mit Tiergeräuschen gefeiert. Die abgespielten
Titel wurden korrekt erfasst. Trotzdem erzählt das daraus gebaute
Profil möglicherweise eine völlig falsche Geschichte über dich.
In Episode 42 von KIRRE … na hör mal!
beschäftigt sich Sabine mit der Frage, was Daten über Menschen
wissen können und was ihnen grundsätzlich fehlt. Daten zeichnen
Handlungen auf: angeklickte Videos, gekaufte Produkte, gehörte
Musik, besuchte Orte oder bezahlte Rechnungen. Sie kennen aber
häufig weder den Anlass noch die Absicht dahinter. Ein
Algorithmus sieht, dass jemand Einhornbettwäsche bestellt hat. Ob
sie für die Käuferin, ihre Enkelin oder als Geschenk für eine
Freundin gedacht ist, steht nicht im Datensatz.
Den humorvollen Einstieg liefert eine aktuelle Änderung bei
Spotify. Seit September 2026 können Nutzer*innen Kinder- und
Familienmusik aus ihrem sogenannten Geschmacksprofil
ausschließen. Die Titel lassen sich weiterhin suchen, abspielen
und in Playlists speichern, beeinflussen dann aber weder Discover
Weekly noch Daily Mix oder Spotify Wrapped. Die Einstellung wirkt
sogar rückwirkend. Spotify reagiert damit auf ein erstaunlich
alltägliches Problem: Ein korrekt protokolliertes Verhalten ist
noch lange keine korrekte Beschreibung der Person hinter dem
Konto.
Bei Musikempfehlungen ist eine falsche Zuordnung meistens nur
lästig oder komisch. Ernster wird es, sobald errechnete Profile
darüber mitentscheiden, ob jemand einen Kredit, einen
Handyvertrag, eine Wohnung, eine Weiterbildung oder staatliche
Unterstützung bekommt.
Ein deutsches Beispiel ist der SCHUFA-Score. Die SCHUFA berechnet
mit mathematisch-statistischen Verfahren, wie wahrscheinlich ein
bestimmtes zukünftiges Verhalten erscheint, etwa die Rückzahlung
eines Kredits. Banken und andere Unternehmen nutzen diesen Wert
bei ihren Entscheidungen. Ein Score beschreibt jedoch keine
Persönlichkeit und keine moralische Zuverlässigkeit. Er bildet
eine statistische Prognose aus den Daten, die dem System zur
Verfügung stehen.
Der Europäische Gerichtshof befasste sich 2023 mit der Bedeutung
dieses Scores. Die SCHUFA argumentierte, sie treffe selbst keine
Kreditentscheidung, sondern liefere lediglich einen Wert an ihre
Kund*innen. Der Gerichtshof stellte klar: Wenn Banken dem Score
eine maßgebliche Rolle bei der Kreditvergabe geben, kann bereits
seine Berechnung als automatisierte Einzelentscheidung im Sinne
der Datenschutz-Grundverordnung gelten. Eine scheinbar
vorbereitende Zahl sitzt dann praktisch mit am
Entscheidungstisch.
Die Folge führt anschließend nach Österreich. Dort entwickelte
das Arbeitsmarktservice ein System, das Arbeitssuchende anhand
ihrer vermuteten Chancen auf dem Arbeitsmarkt in drei Gruppen
einteilen sollte. In die Berechnung flossen unter anderem Alter,
Geschlecht, Ausbildung, Betreuungspflichten, gesundheitliche
Einschränkungen, Herkunftsgruppe und frühere Beschäftigung ein.
Je nach Einstufung sollten unterschiedliche Förderungen und
Weiterbildungen angeboten werden.
Forschende der Technischen Universität Wien und der
Österreichischen Akademie der Wissenschaften untersuchten das
System. Ihre Kritik: Statistische Nachteile aus der Vergangenheit
können durch eine solche Einteilung weiter befestigt werden.
Menschen mit ohnehin schlechteren Ausgangsbedingungen landen
möglicherweise in einer niedrigen Kategorie und bekommen gerade
deshalb weniger von der Unterstützung, die ihre Situation
verändern könnte. Das System beschreibt dann nicht nur bestehende
Ungleichheit. Es hilft womöglich dabei, sie fortzuschreiben.
Noch deutlicher werden die möglichen Folgen in der
niederländischen Kinderbetreuungsgeld-Affäre. Die Steuerbehörde
nutzte ein algorithmisches System, um Anträge auf mögliche Fehler
und Betrugsrisiken zu prüfen. Laut Amnesty International gehörte
die Nationalität zu den verwendeten Risikofaktoren. Zehntausende
Eltern und Betreuungspersonen wurden fälschlich als
Betrugsverdächtige behandelt. Besonders stark betroffen waren
Familien mit geringem Einkommen und Menschen aus ethnischen
Minderheiten.
Die Betroffenen mussten teils hohe Leistungen zurückzahlen.
Familien gerieten in Schulden, verloren Arbeit oder Wohnung und
litten unter gesundheitlichen Folgen. Die Geschichte zeigt, wie
gefährlich eine berechnete Risikomarkierung werden kann, wenn
Behörden und Mitarbeiter*innen ihr mehr glauben als den Menschen,
deren Leben sie betrifft.
Algorithmen wirken oft neutral, weil ihr Ergebnis als Zahl,
Kategorie oder Prozentwert erscheint. Doch jedes System wurde von
Menschen gebaut. Menschen entscheiden, welche Daten
hineinfließen, welches Ziel optimiert wird und ab welchem Wert
jemand als auffällig gilt. Lernt ein System aus der
Vergangenheit, übernimmt es möglicherweise auch die Vorurteile
und Ungerechtigkeiten dieser Vergangenheit.
Das bedeutet nicht, dass Daten oder Algorithmen grundsätzlich
schlecht sind. Medizinische Messwerte, Verkehrsanalysen,
Wettermodelle und gute Empfehlungssysteme können sehr hilfreich
sein. Problematisch wird es, wenn eine begrenzte Datenlage mit
der ganzen Wahrheit über einen Menschen verwechselt wird.
Die Episode unterscheidet deshalb zwischen einer nützlichen
Prognose und einem endgültigen Urteil. Eine Empfehlung darf
danebenliegen. Bei Kredit, Arbeit oder staatlicher Hilfe kann
dieselbe Fehleinschätzung jedoch ein ganzes Leben verändern.
Menschen brauchen dann nachvollziehbare Gründe, eine Möglichkeit
zum Widerspruch und ein Gegenüber, das ihren persönlichen
Zusammenhang anhört. Ein Score darf eine Entscheidung
vorbereiten. Er sollte einen Menschen nicht ersetzen und schon
gar nicht so behandelt werden, als kenne er dessen Zukunft.
Sabine vergleicht Algorithmen deshalb mit sehr schnellen
Praktikant*innen am ersten Arbeitstag. Sie sortieren riesige
Mengen an Informationen und entdecken Muster, für die Menschen
viel länger brauchen würden. Bevor sie über wichtige
Lebenschancen entscheiden, sollte jedoch jemand hinschauen, der
Zusammenhänge versteht, Rückfragen stellt und weiß, dass Menschen
sich verändern können.
Der praktische Tipp der Folge ist kostenlos: In der mobilen
Spotify-App lässt sich unter Einstellungen, Inhalte und Anzeige
festlegen, ob Kinder- und Familienmusik das eigene
Geschmacksprofil beeinflussen darf. Damit können Kinderlieder
weiterlaufen, ohne die persönlichen Empfehlungen zu übernehmen.
Die Folge lädt außerdem dazu ein, das eigene Datenbild mit
gesundem Misstrauen zu betrachten: Welche Käufe, Suchanfragen
oder Hörgewohnheiten würden bei dir gerade eine herrlich falsche
Geschichte ergeben über dein Leben?
KIRRE … na hör mal! ist ein deutschsprachiger
Podcast über künstliche Intelligenz im Alltag, in kreativer
Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als
Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI
und Algorithmen mit Menschen machen. Diese Episode richtet sich
besonders an alle, die Personalisierung praktisch finden, sich
aber nicht von einer Zahl, einem Score oder einer automatisch
erzeugten Kategorie erklären lassen möchten, wer sie angeblich
sind.
Weiterführende Links
Spotify zur neuen Einstellung für Kinder- und
Familienmusik:
https://newsroom.spotify.com/2026-09-15/exclude-kids-family-music-toggle/
Europäischer Gerichtshof zum SCHUFA-Scoring:
https://curia.europa.eu/jcms/upload/docs/application/pdf/2023-12/cp230186en.pdf
Technische Universität Wien zum österreichischen
AMS-Algorithmus:
https://informatics.tuwien.ac.at/news/1956
Amnesty International zur niederländischen
Kinderbetreuungsgeld-Affäre:
https://www.amnesty.org/en/documents/eur35/4686/2021/en/
Kontakt:
hoermal@kirrepodcasting.com
Keywords: Algorithmus kennt dich, Datenprofil
Persönlichkeit, Spotify Kinderlieder Geschmacksprofil, SCHUFA
Score EuGH, automatisierte Entscheidungen DSGVO, AMS Algorithmus
Österreich, niederländische Kinderbetreuungsgeld-Affäre,
Diskriminierung durch Algorithmen, KI und Menschlichkeit, KIRRE
Podcast, Sabine Eckermann, Applebee
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.