#7 - KI & Deepfakes

Deepfakes: Wenn du nicht mehr glauben kannst, was du siehst und
hörst

Stimmen lassen sich klonen, Gesichter fälschen, Videos
manipulieren, und das inzwischen gratis und in wenigen Minuten.
In einem Jahr mit über vierzig Wahlen weltweit wird das zur Frage
für die Demokratie. Diese Folge zeigt, wie leicht Deepfakes
heute entstehen, welche Betrugsmaschen es schon gibt und
warum kritisches Denken und emotionale Intelligenz wichtiger
werden denn je. Mit einem einfachen, sofort umsetzbaren Tipp:
einem Familienpasswort für den Ernstfall.


Mind/Machine ist der Podcast, in dem emotionale
Intelligenz auf künstliche Intelligenz trifft. Manuela
Machner ist KI-Coach für Tourismus und Gründerin von
KiNET.ai, mehr auf www.kinet.ai. Eliot Mannoia ist
digitaler Psychologe und bringt die menschliche und
psychologische Seite ein, mehr auf www.brandkarma.at. Gemeinsam
führen sie kurze, ehrliche Gespräche von rund fünfzehn Minuten.
Was dich in dieser Folge erwartet


Das Ende der einfachen Echtheit: Laut der Doku The AI
Dilemma war 2023 das letzte Jahr, in dem sich Menschen per
Video verlässlich authentifizieren ließen. Stimme und Gesicht
sind heute klonbar.


Der Enkeltrick 2.0: Anrufe mit geklonter Stimme von
Kind, Tochter oder Chef, die Geldüberweisungen fordern. Wenn
die Stimme stimmt, überweisen viele, ohne zu zweifeln.


Das Familienpasswort: Ein vereinbartes Codewort in der
Familie, um bei ungewöhnlichen Anrufen sicherzugehen, dass
wirklich die echte Person spricht.


Wie einfach das geht: Mit Tools wie HeyGen und
ElevenLabs entstehen aus einem unterbeleuchteten Handyvideo
perfekte Clips in fremden Sprachen, inklusive passender
Lippenbewegung. Consumer Level, nicht Hollywood.


Die dunkle Seite: Von gefälschten Chef-Videocalls in
Unternehmen bis zu Deepfake-Nacktbildern, wie im Fall Taylor
Swift, ein massiver Eingriff ins Persönlichkeitsrecht.


Vertrauen und Medien: Warum seriöse Medienhäuser eine
Renaissance erleben könnten, wenn geprüfte Quellen wieder mehr
zählen, und warum Bots und Echokammern die Demokratie
gefährden.

Häufig gestellte Fragen

Wie erkenne ich heute noch ein KI-Fake?
Die alten Hinweise wie sechs Finger oder unnatürliche Ohren
funktionieren bei guten Tools kaum noch. Verlässlicher ist es,
den Inhalt zu hinterfragen und die Quelle zu prüfen.


Wie schütze ich mich vor Stimm-Betrug?
Vereinbare ein Familienpasswort und hinterfrage ungewöhnliche
Geldforderungen, auch wenn die Stimme vertraut klingt. Ruf im
Zweifel über die gespeicherte Nummer zurück.


Haben Deepfakes auch sinnvolle Anwendungen?
Ja. Dieselbe Technik ermöglicht etwa mehrsprachige Videos oder
persönliche Botschaften in einer Fremdsprache. Problematisch wird
es erst, wenn sie eingesetzt wird, um zu schaden.
Erwähnte Quellen und Verweise

Die Doku The AI Dilemma vom Center for Humane Technology
(dieselben Macher wie The Social Dilemma), die Tools HeyGen und
ElevenLabs zum Klonen von Video und Stimme, der Fall Pakistan mit
der per Avatar gehaltenen Rede sowie der Deepfake-Fall rund um
Taylor Swift.
Über die Hosts

Manuela Machner ist KI-Coach für Tourismusbetriebe und
Gründerin von KiNET.ai. Sie macht KI für Betriebe aus Tourismus,
Weiterbildung und dem KMU Umfeld verständlich und sofort nutzbar.
Mehr auf www.kinet.ai.


Eliot Mannoia ist digitaler Psychologe und beschäftigt
sich mit der menschlichen und psychologischen Seite von
Technologie und KI. Mehr auf www.brandkarma.at.


Mind/Machine gibt es auf Spotify, Apple Podcasts und
Amazon Music. Alle Folgen und mehr auf www.mind-machine.at.