Startseite
Podcasts
Auslegungssache – der c't-Datenschutz-Podcast Podcast
Gefährliche Fälschungen – Wie Deepfakes das Recht herausfordern

Gefährliche Fälschungen – Wie Deepfakes das Recht herausfordern

Auslegungssache – der c't-Datenschutz-Podcast vor 4 Wochen

Mit Tahireh Panahi, Holger Bleich und Joerg Heidrich

0:00

1:08:51

Die Bilder und Videos aus KI-Generatoren sind inzwischen so gut,
dass selbst aufmerksame Betrachter sie kaum noch von echten
Aufnahmen unterscheiden können. Damit wachsen auch die Gefahren:
KI-generierte Nacktbilder von Schülerinnen, sexualisierte
Darstellungen über Grok auf X oder manipulierte Videos von
Politikern. Die Politik reagiert mit neuen Vorschriften, und zwar
auf mehreren Ebenen gleichzeitig. In Episode 170 des
c't-Datenschutz-Podcasts sortieren c't-Redakteur Holger Bleich und
heise-Verlagsjustiziar Joerg Heidrich dieses Durcheinander. Dabei
hilft ihnen Tahireh Panahi. Sie ist wissenschaftliche Mitarbeiterin
an der Universität Kassel, promoviert zu EU-Maßnahmen gegen
Desinformation in sozialen Medien und hat sich in einem Fachaufsatz
mit der Regulierung von Deepfakes befasst. Schon die Frage, was ein
Deepfake überhaupt ist, sorgt für Diskussion. Die KI-Verordnung der
EU fasst den Begriff sehr weit: Er umfasst alle KI-erzeugten
Bilder, Töne oder Videos, die realen Personen, Orten oder
Ereignissen ähneln und echt wirken könnten. Ein Schaden ist dafür
nicht nötig. Panahi hält das für wenig sinnvoll. Sie schlägt vor,
harmlose synthetische Inhalte und schädliche Deepfakes getrennt zu
definieren. Heidrich stimmt ihr zu und beklagt, dass die Politik
einen Begriff gekapert habe. Nach dieser Definition müsse man
selbst ein Katzenbild kennzeichnen. Ab Dezember verbietet die EU
zusätzlich KI-Systeme, die sexualisierte Darstellungen realer
Personen erzeugen. Panahi sieht darin eine schnelle Reaktion auf
den Grok-Skandal. Gewaltdarstellungen erfasst das Verbot allerdings
nicht, und eine Ausnahme für Kunst fehlt. Die drei sind sich einig,
dass für KI-Nachbildungen erkennbarer Personen auch die DSGVO gilt.
Eine Rechtsgrundlage für solche Bilder dürfte es ohne Einwilligung
kaum geben. Kritisch sehen die Diskutanten die deutschen Vorschläge
für neue Strafgesetze. Das Bundesjustizministerium will laut einem
am 7. Oktober im Bundeskabinett beschlossenen Entwurf bereits die
Herstellung verfälschter sexualisierter Bilder unter Strafe
stellen. Außerdem soll sich strafbar machen, wer täuschend echte
Inhalte verbreitet, die dem Ansehen einer Person erheblich schaden.
Ein über den Bundesrat eingebrachter Vorschlag aus Bayern sieht
sogar bis zu fünf Jahre Haft vor. Heidrich fürchtet, dass
gewöhnliche KI-Nutzer so schon durch einen fehlerhaften Filter zu
Straftätern werden könnten. Panahi bevorzugt einen älteren
Vorschlag der Grünen, der nur die Verbreitung bestraft. Vorab
nehmen sich die Gastgeber den Entwurf des EU Kids Acts vor. Bleich
hält ihn für überhastet und handwerklich missraten. Der Entwurf
sieht ein Social-Media-Verbot für Kinder unter 13 Jahren vor und
schreibt strenge Altersprüfungen für alle Nutzer vor. Im "Bußgeld
der Woche" geht es um den Sicherheitsdienstleister Securitas in
Spanien. Er muss 100.000 Euro zahlen, weil er Betroffene für ihre
Datenschutzrechte an eine kostenpflichtige Hotline verwiesen hat.