Vergiftete Daten in KI-Modellen. Entdecken, heilen, verhindern?

Vergiftete Daten in KI-Modellen.


Gifte sind ein probates Mittel, um Menschen hinterlistig Übles
anzutun. Man kann damit morden - oder auch in übler Nachrede
behaupten, dass Angehörige von Religionen durch das Vergiften von
Luft oder Wasser dies tun.


Kann man auch KI vergiften? Künstliche Intelligenz braucht
saubere, unverfälschte Daten wie wir sauberes Wasser und reine
Luft.


Sind Daten falsch oder gefälscht, können die Ki generierten
Ergebnisse gefährlich falsch werden. Durch "Data Poisoning"
drohen Gefahren für Leib und Leben, Reputation und
Vertrauenswürdigkeit.


Wir berichten in dieser Folge über die detektivische Arbeit von
Wissenschaftler:innen, die stetig nach Anzeichen von Vergiftungen
im Web und in KI Anwendungen suchen. In abgeschotteten Laboren
stellen sie diese Vergiftungen nach, mischen "giftige Daten" um
"böse KI" früh genug zu erkennen und Mittel zu entwickeln, um den
Gefahren entgegen zu treten.


Informationen und Shownotes und zu dieser Folge auf


https://achwas.fm/vergiftete-daten-in-ki-modellen/





Das Folgenbild


zeigt Papst Alexander VI (1.1.1431 bis 18.8.1503).


Eine Suche nach dem Folgenbild wäre fast banal, denn alleine
historische Giftmorde in Kichen- und Adelskreisen sind Legionen.


Alexander VI wurden Giftmorde nachgesagt. Aber er soll auch einer
der Vergifteteten sein. Er war unbeliebt bei Mächtigen in Politik
und Klerus.


Dabei hat er viel bewirkt, unter anderem gab er geflohene Juden
Asyl in Rom "weil er es versprochen hatte".


Die Ursache seines Todes war wenig spektakulär: Sehr beleibt,
starb er in einer Hitzewelle an einem Herzinfarkt oder
Schlaganfall.


Mehr über ihn: https://de.wikipedia.org/wiki/Alexander_VI.


Das Bild stammt von Cristofano dell'Altissimo
und hängt in den Uffizien, Florenz. Dell'Altissimo war
Portraitmaler und Kopist.


https://de.wikipedia.org/wiki/Cristofano_dell’Altissimo