043 – Deep Fakes: Wer bist du, und – was passiert da eigentlich?

Wollte man den Titel dieser Episode etwas gelehrter ausdrücken
könnte man vielleicht sagen: Das Fenster der vermittelten
Authentizität, das das 20. Jahrhundert geprägt hat, schließt sich
gerade. Und es schließt sich in bemerkenswertem Tempo.


Bitte die Referenzen unten ansehen: dort finden sich alle in der
Episode genannten Bilder.


Vor Ende des 19. Jahrhunderts gab es keine Mittel technischer
Reproduktion der »Wirklichkeit«, also weder Photographie, noch
Film noch Tonaufnahmen. Diese analogen Reproduktionstechniken
haben einen interessanten »Sweetspot«: sie sind schnell, billig
und effektiv genug um die Welt mit Abbildungen von Ereignissen
über weite Strecken zu versorgen, aber unflexibel genug, dass
Manipulation und Fälschung verhältnismässig aufwändig sind. So
haben wir im 20. Jahrhundert natürlich Fälschungen gesehen, aber
diese waren im Vergleich zu den authentischen Medien
vergleichsweise selten.


Robert Capa, Death of a loylist soldier (Spanischer Bürgerkrieg)


Im Augenblick entstehen technische aber extrem einfach
zugängliche technische Mittel (Software, Smartphones), die
glaubwürdige Manipulationen oder Fabrikationen beliebiger Medien
für Jedermann ermöglichen – auch Deep Fakes genannt.


In dieser Episode bespreche ich den geschichtlichen Hintergrund
der technischen Innovationen, wie wesentliche
Information vor dem 20. Jahrhundert vermittelt wurde – auch
am Beispiel der Schlachtenmalerei – und wo wir uns heute
hinbewegen. Ich zeige, wie analoge Medien gefälscht wurden, warum
dies aber nur ein vergleichsweise kleines Problem war.


Dann diskutiere ich, was Deep Fakes eigentlich manipulieren
und was Authentizität in der vermittelten Abbildung der Welt
für uns bedeutet? Wie werden wir (bald) damit umgehen, wenn jeder
14 Jährige auf der ganzen Welt:


eine Podcast-Episode erstellen kann, in der vermeintlich Joe
Rogan mit Donald Trump oder Barack Obama spricht;

ein YouTube Video, wo ein bekannter Journalist die
Bundeskanzlerin interviewt;

einen Film, in dem Tom Cruise mit Marilyn Monroe gemeinsam
auf dem Motorrad fährt;

oder ein unappetitliches Video anfertigt und online stellt
oder über Plattformen teilt, dass eine Klassenkameradin in einer
pornographischen Situation zeigt?



All diese Medien werden kaum oder gar nicht von echten Aufnahmen
unterscheidbar sein und all diese Medien werden, wie gesagt, mit
äußerst geringen Sachkenntnissen und ubiquitär verfügbaren
Computern hergestellt werden können.


Können wir diese Entwicklung noch verhindern? Die Effekte
eingrenzen? Können wir das Vertrauen in vermittelte Realität
wieder zurückgewinnen, sollte es einmal durch einen Tsunami an
solchen Deep Fakes zerstört worden sein?


Referenzen


Andere Episoden


Episode 4 und Episode 5: Was will Technologie?

Episode 30: (Techno-)Optimismus – ein Gespräch mit Tim
Pritlove

Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp
Reisinger

Episode 15: Innovation oder Fortschritt?



Fachliche Referenzen


(an)sichten Blog: The Closing Window auf Mediated
Authenticity

Stalin und Photo-Manipulationen

Die sowjetische Flagge am Berliner Reichstag 1945

Robert Capa, der fallende Soldat: Philipp Blom, Der taumelnde
Kontinent, dtv (2011)

Bobby Chesney, Danielle Citron, Deep Fakes: A Looming
Challenge for Privacy, Democracy, and National Security (2019)

Pedro J. Colombo, Der Photograph von Mauthausen, Tahoe books
(2021)

Zu Deep Fakes: keine konkrete Referenz, weil sich hier alles
so schnell bewegt. Eine Internet Suche zum Stichwort »Deep Fake«
bringt zahlreiche Beispiele (Obama, Trump, Fake Porn, Joe Rogan)

The Guardian, European MPs targeted by Deep Fake Video Calls
Imitating Russian Opposition (2021)