Folge 32 - Adversarial Attacks: Wie sich KI-Systeme austricksen lassen

Diese Folge wurde beim Wettbewerb Fast Forward Science 2025 in
der Kategorie #AudioAward eingereicht. Mehr zum Wettbewerb:
http://www.fastforwardscience.de#FFS


Künstliche Intelligenz ist aus der heutigen Welt kaum mehr
wegzudenken und kommt in vielen Bereichen unseres Alltags zum
Einsatz. Umso wichtiger ist es, Systeme, die KI verwenden, und
die zugrundeliegenden Modelle vor Manipulationen zu schützen.


In der 32. Folge von Informatik für die moderne Hausfrau
beschäftigen wir uns mit sogenannten Adversarial Attacks, also
mit böswilligen Angriffen, mit denen KI-Systeme ausgetrickst und
sogar nachhaltig geschädigt werden können. Dazu rekapitulieren
wir zunächst, was man eigentlich unter dem Begriff "KI" versteht
(nämlich normalerweise das maschinelle Lernen oder Machine
Learning) und wie KI funktioniert. Wir schauen uns außerdem an,
wie die Folgen von Adversarial Attacks abgemildert werden
können. 


Mehr über Adversarial Attacks auf KI-Systeme könnt ihr hier
erfahren:
https://spectrum.ieee.org/slight-street-sign-modifications-can-fool-machine-learning-algorithms


Die wissenschaftliche Veröffentlichung, auf dem der Artikel
basiert, findet ihr hier: https://arxiv.org/pdf/1707.08945


Das Programm "Nightshade" könnt ihr auf der entsprechenden
Projektwebseite herunterladen und euch außerdem über die
Hintergründe informieren:
https://nightshade.cs.uchicago.edu/whatis.html


Adversarial Attacks selbst ausprobieren könnt ihr hier:
https://kennysong.github.io/adversarial.js/


Eine umfangreiche Übersicht über Adversarial Attacks bzw.
Gefahren für KI-Systeme, Angriffsstrategien und Gegenmaßnahmen
ist hier zu finden: https://atlas.mitre.org/


Alle Informationen zum Podcast findet ihr auf der zugehörigen
Webseite https://www.informatik-hausfrau.de. Zur Kontaktaufnahme
schreibt mir gerne eine Mail an mail@informatik-hausfrau.de oder
meldet euch über Social Media. Auf Instagram und Bluesky ist der
Podcast unter dem Handle @informatikfrau (bzw.
@informatikfrau.bsky.social) zu finden. 


Wenn euch dieser Podcast gefällt, abonniert ihn doch bitte und
hinterlasst eine positive Bewertung oder eine kurze Rezension, um
ihm zu mehr Sichtbarkeit zu verhelfen. Rezensionen könnt ihr zum
Beispiel bei Apple Podcasts schreiben oder auf
panoptikum.social. 


Falls ihr die Produktion des Podcasts finanziell unterstützen
möchtet, habt ihr die Möglichkeit, dies über die Plattform Steady
zu tun. Weitere Informationen dazu sind hier zu finden:
https://steadyhq.com/de/informatikfrau


Falls ihr mir auf anderem Wege etwas 'in den Hut werfen' möchtet,
ist dies (auch ohne Registrierung) über die Plattform Ko-fi
möglich: https://ko-fi.com/leaschoenberger


Dieser Podcast wird gefördert durch das Kulturbüro der Stadt
Dortmund.