Brauchen wir ein Deepfake-Verbot? – Rechtsbelehrung 140

Es ist keineswegs neu, dass die Realität mit technischen Mitteln
manipuliert wird. Schon vor über einem Jahrhundert wurden
beispielsweise in Ungnade gefallene Politiker aus Fotos
retuschiert. Und noch vor wenigen Jahren war der Hinweis
„Photoshopped“ ein Synonym für digital veränderte Bilder.


Doch seit dem Aufkommen künstlicher Intelligenz ist es für nahezu
jede und jeden möglich, schnell, einfach und kostengünstig
Bilder, Videos oder sogar Stimmen anderer Menschen zu
manipulieren oder vollständig nachzubilden.


Die dabei entstehenden sogenannten Deepfakes (ein Kofferwort aus
„Deep Learning“ und „Fake“) können nicht nur den politischen
Diskurs beeinflussen, sondern auch für einzelne Menschen
schwerwiegende Folgen haben.


Sie können beispielsweise zur Täuschung über Tatsachen eingesetzt
werden, Menschen beleidigen oder diffamieren und – besonders
gravierend – in Form sexualisierter Deepfakes zu erheblichen
psychischen und physischen Belastungen für Betroffene führen.


Angesichts der Vielzahl und Schwere der möglichen Folgen stellen
wir uns in dieser Folge die Frage: Schützen uns die bestehenden
Gesetze ausreichend vor Deepfakes?


Dazu haben wir mit Dr. Jessica Flint eine Expertin eingeladen,
die sich intensiv mit der Verbreitung von Fake News und dem
Schutz von Persönlichkeitsrechten beschäftigt. Gemeinsam mit ihr
werfen wir einen Blick in das Dickicht der relevanten
Vorschriften, die einen rechtlichen Schutz vor Deepfakes bieten
könnten.
Dr. Jessica Flint, LL.M. (Edinburgh) ist Rechtsanwältin bei der
JUN Legal GmbH und Lehrbeauftragte an der
Julius-Maximilians-Universität Würzburg. In ihrer Dissertation
befasste sie sich mit dem Thema „Fake News im Wahlkampf“ und
untersuchte dabei die rechtlichen Herausforderungen von
Desinformation in sozialen Netzwerken am Beispiel von Facebook.
(LinkedIN)

Das Ergebnis fällt eher ernüchternd aus. Trotz zahlreicher
rechtlicher Ansatzpunkte fehlt, zumindest nach unserer Ansicht,
eine zentrale Regelung, die ein konsequentes Vorgehen gegen
rechtswidrige Deepfakes erleichtern würde.


Wir bedanken uns herzlich bei Dr. Flint und wünschen euch viel
Vergnügen beim Zuhören!


Wie immer freuen wir uns aber auch auf eure Meinungen zu diesem
Thema. Haltet ihr Deepfakes ebenfalls für ein großes Risiko?
Würdet ihr euch einen eigenen „Deepfake-Paragrafen“ wünschen,
oder seid ihr der Ansicht, dass die bestehenden Gesetze
ausreichen? Schreibt uns!
Zeitmarken


00:00:00 – Einführung & Definition von
Deepfakes: Vorstellung unserer Gästin und gemeinsame
Definition, was unter Deepfakes zu verstehen ist.


00:07:30 – Täuschungswirkung & Nachbildung der
Realität: Wann werden reale Personen, Orte,
Gegenstände, Ereignisse oder Einrichtungen nachgebildet – und
wie wirkt die Täuschung?


00:14:00 – Medium & Strafbarkeit von
Deepfakes: Spielt es eine Rolle, ob ein Deepfake als
Bild, Audio oder Video vorliegt? Und: Sind Deepfakes strafbar?


00:26:00 – Kennzeichnungspflichten & rechtliche
Konsequenzen: Welche Kennzeichnungspflichten bestehen
für Deepfakes und welche rechtlichen Folgen drohen bei
Verstößen?


00:29:00 – Kennzeichnungspflichten für
Privatpersonen: Gilt die Pflicht zur Kennzeichnung
auch für private Nutzer:innen?


00:34:00 – Plattformverantwortung im Digital Services
Act (DSA): Welche Pflichten haben Plattformbetreiber
im Umgang mit Deepfakes laut DSA?


00:38:00 – Kennzeichnungspflichten für
KI-Anbieter: Welche Vorgaben gelten für Anbieter von
KI-Systemen im Hinblick auf synthetische Inhalte?


00:46:00 – Anbieter vs. Betreiber von
KI-Systemen: Wer gilt rechtlich als Anbieter einer KI
und wer lediglich als Betreiber?


00:49:00 – Kennzeichnung nach der KI-Verordnung (AI
Act): Wie müssen Deepfakes gemäß der EU-KI-Verordnung
gekennzeichnet werden?


00:53:00 – Folgen bei Verstößen gegen
Kennzeichnungspflichten: Was passiert, wenn gegen die
Kennzeichnungspflicht von Deepfakes verstoßen wird?


01:00:00 – Deepfakes von Ereignissen &
Gegenständen: Dürfen Produktbilder oder
Ereignisdarstellungen mithilfe von Deepfakes erstellt werden?


01:11:00 – Deepfakes von Personen &
Unterlassungsansprüche: Besonderheiten bei der
Nachbildung von Personen und mögliche zivilrechtliche
Ansprüche.


01:13:00 – Beleidigung, Verleumdung &
Urheberrecht: Wie können Deepfakes
Persönlichkeitsrechte verletzen oder gegen das
Kunsturhebergesetz verstoßen?


01:15:00 – Hürden bei der Rechtsverfolgung:
Welche praktischen und rechtlichen Schwierigkeiten bestehen bei
der Verfolgung von Deepfakes?


01:20:00 – Bedarf für neue Gesetze &
Plattformregulierung: Brauchen wir einen speziellen
„Deepfake-Paragrafen“ oder zusätzliche Regeln für Plattformen?

Weiterführende Links


Video zur Übergabe der von über 367.000 Menschen
unterstützten WeAct-Petition an das
Bundesjustizministerium – unter anderem durch Autor
Marcuwe Kling und Expertin Jessica Flint –, in der ein Verbot
von Deepfakes mit echten Personen gefordert wird, um Demokratie
und Persönlichkeitsrechte besser vor KI-Manipulation zu
schützen.

„Vorbild Italien – Auch Deut­sch­land will Deep­fakes unter
Strafe stellen“ – Leonie Schilling, 09/24, LTO.

„Braucht es eine Strafnorm für ‚Deepfakes‘?“ – Hasso Suliak,
09/25, LTO.

„Deepfakes: Wie Hassrede, nur schlimmer“ – Maximilian Amos,
07/2024, Beck Online, u.a. zum angesprochenem Video von
Bundeskanzler a.d. Olaf Scholz.



Der Beitrag Brauchen wir ein Deepfake-Verbot? – Rechtsbelehrung
140 erschien zuerst auf Rechtsbelehrung.