Zwischen Staunen und Gruseln

Ein Mann mit ALS, der seit Jahren kein Wort mehr sprechen konnte,
spricht dank eines Hirnimplantats wieder mit seiner Familie. Am
selben Wochenende liest Sabine von einer Firma in Hongkong, die
25 Millionen Dollar an Betrüger überweist, nachdem sich ein
kompletter Videocall voller vertrauter Kolleg:innen als Deepfake
entpuppt. Zwei echte Geschichten, dieselbe Grundtechnologie, ein
kompletter Gegensatz im Ergebnis. In dieser Folge von KIRRE … na
hör mal! erzählt Sabine beide nebeneinander und geht der Frage
nach, warum KI in dem einen Moment rettet und im nächsten
zerstört, und was das über unseren Umgang mit ihr sagt.


Ausgangspunkt der ernsteren Geschichte ist der reale Fall des
britischen Ingenieurbüros Arup, dessen Hongkonger Niederlassung
Anfang 2024 Opfer eines aufwendig inszenierten Deepfake-Betrugs
wurde. Ein Mitarbeiter der Finanzabteilung erhielt zunächst eine
E-Mail, angeblich vom Finanzvorstand des Unternehmens aus London,
mit der Bitte um eine vertrauliche Transaktion. Zunächst
skeptisch, ließ er sich durch eine Einladung zu einem Videocall
überzeugen, in dem scheinbar der Finanzchef und mehrere ihm
bekannte Kolleginnen und Kollegen anwesend waren. Alle sprachen,
reagierten auf Fragen, wirkten völlig normal. In der Folge
überwies der Mitarbeiter in fünfzehn Einzeltransaktionen
umgerechnet rund 25 Millionen US-Dollar an die Betrüger. Erst
eine Woche später, bei einem Rückruf in der Firmenzentrale, flog
der Betrug auf: Kein einziger Mensch in diesem Videocall war real
gewesen, sämtliche Teilnehmenden waren aus öffentlich
zugänglichem Video- und Tonmaterial generierte Deepfakes.


Sabine ordnet diesen Fall in einen größeren Trend ein:
Sicherheitsanalysen gehen davon aus, dass allein im Jahr 2025
weltweit Schäden von deutlich über 200 Millionen Dollar durch
Deepfake-Betrug entstanden sind, mit einer Zahl an dokumentierten
Vorfällen, die sich ungefähr jährlich verdoppelt. Besonders
gefährdet sind demnach Menschen mit viel öffentlich zugänglichem
Bild- und Tonmaterial, etwa Führungskräfte, Vortragsrednerinnen
und, wie Sabine selbstkritisch anmerkt, auch Podcasterinnen wie
sie selbst. Als sehr konkrete, alltagstaugliche Schutzmaßnahme
nennt sie das Prinzip der Rückruf-Verifikation: Bei jeder
dringlichen Aufforderung zu einer Überweisung oder Herausgabe von
Zugangsdaten, egal wie überzeugend die Person am Bildschirm
wirkt, empfiehlt sie, aufzulegen und über eine selbst bekannte,
unabhängig verifizierte Nummer zurückzurufen, statt auf die im
Anruf oder Chat angegebene Nummer zu vertrauen.


Als bewussten Gegenpol erzählt Sabine von einem aktuellen
medizinischen Durchbruch: einem Hirn-Computer-Interface, das bei
Menschen mit ALS oder nach schweren Schlaganfällen eingesetzt
wird, die durch ihre Erkrankung die Fähigkeit zu sprechen
verloren haben. Ein Chip liest dabei die Hirnsignale ab, die
eigentlich für Sprechbewegungen zuständig wären, eine KI
übersetzt dieses Muster nahezu in Echtzeit in Sprache, ausgegeben
über eine synthetische Stimme, die bei manchen Systemen sogar aus
alten Sprachaufnahmen der jeweiligen Person rekonstruiert wird.
Sabine beschreibt eindrücklich, wie ein betroffener Mann seiner
Familie auf diesem Weg erstmals seit Jahren wieder "Ich liebe
dich" sagen konnte, mit der eigenen Gedankenkraft, über den Umweg
eines Computers.


Interessant an der Hirnimplantat-Geschichte findet Sabine
besonders, dass es sich dabei längst nicht mehr um einen
einzelnen Einzelfall handelt. Mehrere US-amerikanische
Forschungszentren arbeiten parallel an ähnlichen Verfahren, bei
Menschen mit ALS ebenso wie bei Betroffenen schwerer
Schlaganfälle, die zuvor jahrelang nur noch über einzelne
Fingerbewegungen oder Augensteuerung überhaupt kommunizieren
konnten. Manche dieser Systeme rekonstruieren die ausgegebene
Stimme sogar aus alten Sprachaufnahmen der jeweiligen Person aus
der Zeit vor der Erkrankung, damit die Stimme, die am Ende aus
dem Lautsprecher kommt, wirklich nach der betroffenen Person
klingt und nicht nach einem gesichtslosen Computer.


Für einen humorvollen Moment zwischendurch sorgt eine dritte,
deutlich harmlosere wahre Geschichte: Ein schottischer
Fußballverein ersetzte seinen menschlichen Kameramann testweise
durch ein KI-gesteuertes System, das automatisch dem Ball folgen
sollte. Über weite Strecken des Spiels verwechselte die Software
jedoch zuverlässig die glänzende Glatze eines
Schiedsrichter-Assistenten am Spielfeldrand mit dem eigentlichen
Ball und schwenkte entsprechend fehl, sehr zum Ärger der Fans,
die dadurch reihenweise echte Tore verpassten. Sabine nutzt diese
kleine Panne bewusst als Auflockerung zwischen den beiden
schwereren Geschichten, ganz nach dem Motto: KI ist nicht immer
episch gut oder episch gefährlich, manchmal ist sie einfach nur
herrlich unfähig.


Aus dem Nebeneinander dieser drei Geschichten leitet Sabine eine
einfache Leitfrage ab, die sie künftig auf jede neue KI-Meldung
anwenden will: nicht "gut oder böse", sondern "wer hat sie in der
Hand, und mit welcher Absicht". Die Folge endet mit einem
Vergleich zu Feuer, der ältesten und zugleich zwiespältigsten
Technologie der Menschheit, um zu zeigen, dass der bewusste,
wache Umgang mit einer mächtigen, potenziell gefährlichen
Technologie historisch längst eingeübt ist und auch bei KI
gelingen kann.


Diese Episode eignet sich besonders für alle, die sich mit
folgenden Themen beschäftigen: Deepfake-Betrug in Unternehmen,
der Fall Arup Hongkong, KI-Hirnimplantate für Menschen mit ALS,
Schutz vor Stimmklon-Betrug für Selbstständige und
Podcaster:innen, Rückruf-Verifikation als Betrugsschutz, kuriose
KI-Pannen im Sport. Die Folge passt außerdem zu Suchanfragen wie:
Wie funktionierte der Deepfake-Betrug bei Arup in Hongkong genau?
Kann künstliche Intelligenz gelähmten oder sprachunfähigen
Menschen beim Sprechen helfen? Wie erkenne und verhindere ich
einen Deepfake-Anruf oder Videocall-Betrug?


KIRRE … na hör mal! ist ein deutschsprachiger
Podcast über künstliche Intelligenz und ihre Auswirkungen auf
Alltag, Kreativität und Arbeit, moderiert von Sabine, auch
bekannt als Applebee, Diplom-Grafikdesignerin mit über drei
Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin.
Wenn dich diese Folge zum Nachdenken gebracht hat, oder wenn du
selbst schon mal einen eigenen Staunen- oder Gruseln-Moment mit
KI erlebt hast, schreib Sabine gerne, sie freut sich über jede
Zuschrift und sammelt eure Geschichten für kommende Folgen.



Weiterführende Links


Zum Deepfake-Betrugsfall in Hongkong (heise online):  
https://www.heise.de/news/Videokonferenz-voller-KI-Klone-Angestellter-schickt-Betruegern-24-Millionen-Euro-9618064.html


Zum Hirnimplantat für ALS-Patienten (24matins.de):  
https://www.24matins.de/gelaehmter-spricht-wieder-durchbruch-mit-hirnimplantat-ermoeglicht-kommunikation-285127


Kontakt für eigene Staunen- oder Gruseln-Momente mit KI:
 
hoermal@kirrepodcasting.com



Keywords: Deepfake Videocall Betrug
Hongkong, Hirnimplantat ALS spricht wieder, Stimmklon Schutz
Podcaster, Rückruf-Verifikation Betrugsschutz, KI Fail
Fußballkamera, KIRRE Podcast, Sabine Eckermann, Applebee