KI als Kunde

Was passiert, wenn nicht mehr der Mensch, sondern die KI der
eigentliche Kunde ist? In der allerersten Folge von "Think
Different. Think AI." steigen Mark Zimmermann und Jens Scharnetzki
direkt mit einem Selbstversuch ein: Ein Kaufagent auf Interfect.ai
bekommt den einfachen Prompt, eine Uhr für unter 100 Euro zu
besorgen, und schließt den Kauf eigenständig ab. Noch spannender
wird es beim zweiten Experiment: Manus AI sollte eigentlich nur
passende KI-Schulungen heraussuchen, hat die Prüfungen aber gleich
selbst abgelegt und die Zertifikate besorgt. Die Folge, aufgenommen
ohne Generalprobe, zieht daraus eine unbequeme Frage: Was ist ein
Zertifikat überhaupt noch wert, wenn nicht mehr klar ist, wer die
Prüfung tatsächlich abgelegt hat? Von dort aus wird der Bogen zum
Thema Vertrauen und Identität gespannt: Deepfake-Videocalls, bei
denen sich ein vermeintlicher CFO per gefälschtem Video Geld
überweisen lässt, ein Beispiel eines Fraunhofer-Instituts-Experten
zur Puls-Erkennung als Anti-Deepfake-Methode, und die ganz
praktische Konsequenz, dass Mark jetzt ein Codewort mit seinen
Eltern vereinbaren will, falls ihn mal jemand mit geklonter Stimme
anruft. Mark und Jens diskutieren offen: Für das Grundproblem, wie
eine Maschine einer anderen vertrauen soll, gibt es aktuell keine
wirklich befriedigende Lösung, weder über Wasserzeichen noch über
Blockchain-Ansätze. Ein zweiter großer Themenblock dreht sich um
die ökonomische Seite: Eine zitierte Gartner-Umfrage unter 800 CEOs
geht davon aus, dass 2030 jede fünfte Online-Transaktion von
KI-Agenten statt von Menschen ausgeführt wird. Für Unternehmen
bedeutet das ein Wettrüsten mit den eigenen Kunden: Plötzlich sitzt
nicht mehr ein Mensch vor den klassischen Dark-UX-Tricks
(künstliche Verknappung, personalisierte Preise), sondern ein
KI-Agent, der einfach zehn virtuelle Browser öffnet und den besten
Preis vergleicht. Und wenn schon die Hälfte aller
Social-Media-Inhalte KI-generiert sein soll, stellt sich die
nächste Frage gleich mit: Muss Content künftig nicht mehr für
Menschen, sondern für KI-Suchmaschinen optimiert werden (Stichwort
GEO/AEO statt klassischem SEO)? Zum Abschluss geht es um die
Kehrseite dieser neuen Interaktionsform: Prompt Injection, also
versteckte Anweisungen auf Webseiten, mit denen sich Agenten
manipulieren lassen (etwa dazu, ein Konkurrenzprodukt grundsätzlich
schlechtzureden), und ein historischer Insider-Exkurs zu Eliza als
frühem Chatbot-Abwesenheitsassistenten, der zeigt, dass das
Katz-und-Maus-Spiel zwischen Automatisierung und Missbrauch so neu
gar nicht ist. Ein unaufgeregter, aber sehr grundsätzlicher Auftakt
für einen Podcast, der genau diese Fragen künftig regelmäßig
weiterdenken will.