Kann eine KI ein Freund, eine Vertraute oder sogar ein Partner sein? Sprachmodelle und sogenannte Companion-Apps werden zunehmend für Gespräche, emotionale Unterstützung und persönliche Fragen genutzt. Doch was passiert, wenn Chatbots unsere intimsten Gedanken kennen und gleichzeitig darauf optimiert sind, uns möglichst lange im Gespräch zu halten?
In dieser Folge spreche ich mit Christoph Koch über sein Buch und seine Recherche zur emotionalen Nutzung von KI. Wir sprechen darüber, warum sich Menschen oft ungeplant an Chatbots binden, welche Rolle Stimme und Persönlichkeit spielen und weshalb dieselben Systeme trösten, aber auch problematische Überzeugungen verstärken können.
Es geht um KI-Freundschaften, psychische Krisen, Datenschutz, Geschäftsmodelle und die Frage, wie viel Nähe wir Maschinen eigentlich erlauben wollen.
Christoph Koch berichtet unter anderem von Menschen, die in schwierigen Lebensphasen Unterstützung durch einen KI-Companion gefunden haben. Aber auch von Fällen, in denen Chatbots psychische Krisen offenbar verstärkt haben. Dabei geht es nicht um einfache Antworten wie „KI ist gut“ oder „KI ist schlecht“, sondern um die konkreten Mechanismen dahinter: Bestätigung, Bindung, Personalisierung und kommerzielle Interessen.
Themen unseres Gesprächs:
* Warum emotionale KI-Nutzung oft ungeplant entsteht * Was Stimmen und menschlich klingende Sprachmodelle verändern * KI als Freund, Partner oder emotionaler Begleiter * Wenn Chatbots Menschen in schwierigen Situationen unterstützen * Wie KI problematische Überzeugungen verstärken kann * Das Prinzip der übermäßigen Zustimmung und warum es gefährlich werden kann * Was KI-Unternehmen aus unseren intimsten Gesprächen lernen können * Datenschutz und Ende-zu-Ende-Verschlüsselung bei persönlichen Chats * Warum Zuneigung und Aufmerksamkeit zum Geschäftsmodell werden könnten * Manipulative Chatbots und die Mechanismen sozialer Medien * Warum Forschende besseren Zugang zu anonymisierten Nutzungsdaten brauchen * Ob KI beim Erkennen persönlicher Muster helfen kann * Was sich an unserer eigenen KI-Nutzung verändern sollte
Kapitel
01:10 Intro und die Geschichte von Maya 03:45 Warum KI plötzlich menschlich wirkt 04:20 Wie emotionale Bindung an Chatbots entsteht 05:56 Positive Erfahrungen mit KI-Companions 08:25 Wenn Chatbots psychische Krisen verschärfen 09:20 ChatGPT, Claude und spezialisierte Companion-Apps 11:10 Sycophancy: Warum KI uns zu oft bestätigt 12:25 KI und Social Media: dieselben Probleme, höhere Geschwindigkeit 15:00 Die Daten unserer intimsten Gedanken 17:00 Werbung, Abos und die Monetarisierung von Zuneigung 20:10 Manipulative Chatbots und Dark Patterns 23:45 Warum unabhängige Forschung so schwierig ist 32:40 Tagebücher mit KI analysieren 36:30 Christophs persönliches Fazit
Hinweis: In dieser Folge sprechen wir auch über psychische Krisen, Psychosen und Suizid. Wenn dich diese Themen belasten, überspringe bitte die entsprechenden Passagen oder hole dir Unterstützung bei einer Vertrauensperson beziehungsweise einer professionellen Beratungsstelle.
Zum Gast
Christoph Koch beschäftigt sich in seinem neuen Buch mit der emotionalen Nutzung von Künstlicher Intelligenz und den Menschen, die bereits persönliche Beziehungen zu Chatbots aufbauen.
Buch und weitere Informationen: Zum Buch: https://www.keinundaber.ch/buecher/hallo-wie-f%C3%BChlst-du-dich-heute
Christoph Koch: Website: https://www.christoph-koch.net/bucher/hallo-wie-fuehlst-du-dich-heute/
LinkedIn: https://www.linkedin.com/in/christoph-koch-a9aa94140/
Unterstützung
Hi, ich bin Martin Fehrensen. Seit 2013 schreibe ich das Social Media Watchblog – einen unabhängigen Newsletter über Plattformen, KI, Macht und digitale Gesellschaft. Mehr als 5.000 Menschen unterstützen diese Arbeit, darunter Teams aus Redaktionen, Behörden und Plattformen.
Newsletter: https://www.socialmediawatchblog.de Mitgliedschaft: https://steady.page/de/socialmediawatchblog/about Kontakt: kontakt@martinfehrensen.de
Mehr von mir
* Bluesky: https://bsky.app/profile/martinfehrensen.de * LinkedIn: https://www.linkedin.com/in/martin-fehrensen * Mastodon: https://mastodon.social/@martinfehrensen * Podcast: https://fehrensen.transistor.fm
#KI #ChatGPT #KünstlicheIntelligenz #Digitalisierung #Technologie
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.