Deepfakes: Wie uns die visuelle Realität abhandenkommt

Deepfakes wirken echt, sind aber reine Fantasiegeburten: Videos und
Bilder, die anhand eines Textprompts von einer generativen KI
erzeugt wurden und lustig, originell oder auch verblüffend sind –
zumindest in ihrer harmlosen Ausprägung. Doch in vielen Fällen
werden die Bilder zu manipulativen Zwecken eingesetzt: als
Propaganda-Instrument, in Form von «AI Slop» zur
Aufmerksamkeitsbewirtschaftung in den sozialen Medien und
schliesslich auch bei Identitätsdiebstahl und «Deep Nudes» – das
sind sexualisierte Deepfakes, die zu privaten «Vergnügen» verwendet
oder auch veröffentlicht werden. Spätestens seit Elon Musks KI Grok
solche Bilder mit minimalem Aufwand via Twitter (X) erzeugt, ist
eine eigentliche Deepfake-Epidemie zu beobachten. Wir diskutieren
über das Problem: Welche Handhabe haben wir als Betroffene, was
können wir gegen solche Deepfakes tun? Welche Möglichkeiten der
Prävention gibt es? Und was müsste der Gesetzgeber tun, damit die
Last, gegen solche Formen des digitalen Missbrauchs vorzugehen,
nicht auf den Schultern der einzelnen Opfer liegt?