Kann eine KI ein Freund, eine Vertraute oder sogar ein Partner
sein? Sprachmodelle und sogenannte Companion-Apps werden
zunehmend für Gespräche, emotionale Unterstützung und persönliche
Fragen genutzt. Doch was passiert, wenn Chatbots unsere intimsten
Gedanken kennen und gleichzeitig darauf optimiert sind, uns
möglichst lange im Gespräch zu halten?
In dieser Folge spreche ich mit Christoph Koch über sein Buch und
seine Recherche zur emotionalen Nutzung von KI. Wir sprechen
darüber, warum sich Menschen oft ungeplant an Chatbots binden,
welche Rolle Stimme und Persönlichkeit spielen und weshalb
dieselben Systeme trösten, aber auch problematische Überzeugungen
verstärken können.
Es geht um KI-Freundschaften, psychische Krisen, Datenschutz,
Geschäftsmodelle und die Frage, wie viel Nähe wir Maschinen
eigentlich erlauben wollen.
Christoph Koch berichtet unter anderem von Menschen, die in
schwierigen Lebensphasen Unterstützung durch einen KI-Companion
gefunden haben. Aber auch von Fällen, in denen Chatbots
psychische Krisen offenbar verstärkt haben. Dabei geht es nicht
um einfache Antworten wie „KI ist gut“ oder „KI ist schlecht“,
sondern um die konkreten Mechanismen dahinter: Bestätigung,
Bindung, Personalisierung und kommerzielle Interessen.
Themen unseres Gesprächs:
* Warum emotionale KI-Nutzung oft ungeplant entsteht
* Was Stimmen und menschlich klingende Sprachmodelle
verändern
* KI als Freund, Partner oder emotionaler Begleiter
* Wenn Chatbots Menschen in schwierigen Situationen
unterstützen
* Wie KI problematische Überzeugungen verstärken kann
* Das Prinzip der übermäßigen Zustimmung und warum es gefährlich
werden kann
* Was KI-Unternehmen aus unseren intimsten Gesprächen lernen
können
* Datenschutz und Ende-zu-Ende-Verschlüsselung bei persönlichen
Chats
* Warum Zuneigung und Aufmerksamkeit zum Geschäftsmodell werden
könnten
* Manipulative Chatbots und die Mechanismen sozialer Medien
* Warum Forschende besseren Zugang zu anonymisierten
Nutzungsdaten brauchen
* Ob KI beim Erkennen persönlicher Muster helfen kann
* Was sich an unserer eigenen KI-Nutzung verändern sollte
Kapitel
01:10 Intro und die Geschichte von Maya
03:45 Warum KI plötzlich menschlich wirkt
04:20 Wie emotionale Bindung an Chatbots entsteht
05:56 Positive Erfahrungen mit KI-Companions
08:25 Wenn Chatbots psychische Krisen verschärfen
09:20 ChatGPT, Claude und spezialisierte Companion-Apps
11:10 Sycophancy: Warum KI uns zu oft bestätigt
12:25 KI und Social Media: dieselben Probleme, höhere
Geschwindigkeit
15:00 Die Daten unserer intimsten Gedanken
17:00 Werbung, Abos und die Monetarisierung von Zuneigung
20:10 Manipulative Chatbots und Dark Patterns
23:45 Warum unabhängige Forschung so schwierig ist
32:40 Tagebücher mit KI analysieren
36:30 Christophs persönliches Fazit
Hinweis: In dieser Folge sprechen wir auch über psychische
Krisen, Psychosen und Suizid. Wenn dich diese Themen belasten,
überspringe bitte die entsprechenden Passagen oder hole dir
Unterstützung bei einer Vertrauensperson beziehungsweise einer
professionellen Beratungsstelle.
Zum Gast
Christoph Koch beschäftigt sich in seinem neuen Buch mit der
emotionalen Nutzung von Künstlicher Intelligenz und den Menschen,
die bereits persönliche Beziehungen zu Chatbots aufbauen.
Buch und weitere Informationen:
Zum Buch:
https://www.keinundaber.ch/buecher/hallo-wie-f%C3%BChlst-du-dich-heute
Christoph Koch:
Website:
https://www.christoph-koch.net/bucher/hallo-wie-fuehlst-du-dich-heute/
LinkedIn: https://www.linkedin.com/in/christoph-koch-a9aa94140/
Unterstützung
Hi, ich bin Martin Fehrensen. Seit 2013 schreibe ich das Social
Media Watchblog – einen unabhängigen Newsletter über Plattformen,
KI, Macht und digitale Gesellschaft. Mehr als 5.000 Menschen
unterstützen diese Arbeit, darunter Teams aus Redaktionen,
Behörden und Plattformen.
Newsletter: https://www.socialmediawatchblog.de
Mitgliedschaft: https://steady.page/de/socialmediawatchblog/about
Kontakt: kontakt@martinfehrensen.de
Mehr von mir
* Bluesky: https://bsky.app/profile/martinfehrensen.de
* LinkedIn: https://www.linkedin.com/in/martin-fehrensen
* Mastodon: https://mastodon.social/@martinfehrensen
* Podcast: https://fehrensen.transistor.fm
#KI #ChatGPT #KünstlicheIntelligenz #Digitalisierung #Technologie
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.