Startseite
Podcasts
CISPA TL;DR - Der Podcast über KI- und IT-Sicherheitsforschung Podcast
#49 Radioaktive Wasserzeichen für KI-Bilder mit Louis Kerner

#49 Radioaktive Wasserzeichen für KI-Bilder mit Louis Kerner

CISPA TL;DR - Der Podcast über KI- und IT-Sicherheitsforschung vor 4 Monaten

0:00

27:22

Was passiert, wenn KI-Modelle zunehmend auf Inhalten trainieren,
die selbst von KI erzeugt wurden? Forschende befürchten, dass die
Modelle dadurch langfristig an Qualität verlieren könnten. Dieses
Phänomen wird auch als „Model Collapse“ bezeichnet. In dieser Folge
von CISPA TL;DR spricht CISPA-Forscher Louis Kerner mit uns über
BitMark: ein neu entwickeltes Wasserzeichen für KI-generierte
Bilder, das selbst dann noch nachweisbar sein kann, wenn andere
KI-Modelle später auf diesen Bildern trainiert wurden. Warum die
Forschenden dabei von „radioaktiven“ Wasserzeichen sprechen, wie
BitMark funktioniert und weshalb solche Ansätze für die Zukunft
generativer KI relevant sein könnten, erfahrt ihr in dieser Folge.