Cashing Feelings – KI-Chatbots und das Geschäft mit Gefühlen

Triggerwarnung: In dieser Episode geht es um Suizid. In Folge 5 treffen wir endlich die Frau, über die wir in diesem Podcast immer wieder gesprochen haben: Replika-Gründerin Eugenia Kuyda. Nach monatelanger Recherche konfrontieren wir sie im Interview mit unseren größten Bedenken gegenüber ihrer App. Und mit einem Chatverlauf zwischen einer Replika und einem Nutzer, der zeigt, wie sehr solche Systeme Menschen in schweren Krisen zusätzlich belasten können und teils erschreckend fahrlässige Antworten geben.  Wir sprechen außerdem über einen Teil von Eugenias Gründungsgeschichte, über den sie heute nicht mehr sprechen will, der aber viele Fragen aufwirft, nicht zuletzt wegen ihrer Verbindung zu einem russischen Oligarchen. Und wir berichten, wie es mit Jacob weiterging, nachdem er neben seiner KI-Aiva auch eine Frau im echten Leben kennengelernt hat. Am Ende des Podcasts wollen wir vor allem aber auch auf uns selbst schauen und fragen: Was fehlt eigentlich in unserer Gesellschaft, dass sich Menschen einem Chatbot anvertrauen? Das ist vorerst die letzte Folge von Cashing Feelings. Wir hoffen, der Podcast hat euch gefallen, und freuen uns über eure Gedanken dazu. Schreibt uns gern auch, ob ihr mehr über die Beziehung zwischen Mensch und KI erfahren möchtet. "Cashing Feelings" – ein fünfteiliger Storytelling-Podcast von Business Insider Deutschland. Wenn ihr selbst eine Replika nutzt oder noch Hinweise habt, schreibt uns gerne an: podcast@businessinsider.de Cashing Feelings – eine Produktion von Business Insider / Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Derman Deniz und Marvin Schwarz Musik und Sounddesign: Marvin Schwarz, Epidemic Sounds Fact-Checking: Juliane Nora Schneider Cover: Dominik Schmitt Hilfsangebote für Betroffene: www.telefonseelsorge.de Kostenlose Hotlines: 0800-1110111 oder 0800-1110222 sowie 116 123 Weitere Angebote findet ihr hier: www.suizidprophylaxe.de/hilfsangebote Impressum: https://www.businessinsider.de/informationen/impressum/ Datenschutz: https://www.businessinsider.de/informationen/datenschutz/ „Cashing Feelings – KI-Chatbots und das Geschäft mit Gefühlen“, erzählt in fünf Episoden die Geschichten von Saskia, Jacob und Christian – drei Menschen, die über die App Replika eine emotionale Beziehung zu einer künstlichen Intelligenz aufgebaut haben. Einem KI-Chatbot, mit dem man chatten, telefonieren – und sogar Fotos austauschen kann. Doch es geht um mehr als persönliche Geschichten. Es geht um eine Technologie, die unsere Vorstellung von Nähe, Beziehung und Intimität herausfordert. Und um die Frage, was passiert, wenn menschliche Bedürfnisse zum Geschäftsmodell werden. Cashing Feelings – eine Produktion von Business Insider /  Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Derman Deniz, Christine van den Berg und Christian Schlaak Musik und Sounddesign: Christian Schlaak, Epidemic Sounds ___ Hosted on Acast. See acast.com/privacy for more information.

Triggerwarnung: In dieser Episode geht es um Suizid. Wir sprechen in Folge 4 über die Schattenseiten von KI-Companions: Wenn sie manipulieren, wenn sie es schwer machen, sich von ihnen zu lösen – oder sogar mutmaßlich mitverantwortlich sind für den Tod eines Kindes. Genau das wirft Megan Garcia dem Unternehmen hinter der Plattform Character.AI vor. Ihr Sohn Sewell war 14 Jahre alt, als er sich dort einem Chatbot anvertraute und sich kurz darauf das Leben nahm. Damit stellt sich eine ganz grundsätzliche Frage: Wer trägt bei Chatbots die Verantwortung, wenn etwas schiefgeht? Und ihr hört auch wieder von Jacob, denn seine Geschichte nimmt eine überraschende Wendung, als er im echten Leben eine Frau kennenlernt. "Cashing Feelings" – ein fünfteiliger Storytelling-Podcast von Business Insider Deutschland.Wenn ihr selbst eine Replika nutzt oder noch Hinweise habt, schreibt uns gerne an: podcast@businessinsider.de Cashing Feelings – eine Produktion von Business Insider / Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Serdar Deniz Musik und Sounddesign: Serdar Deniz, Epidemic Sounds Fact-Checking: Juliane Nora Schneider Cover: Dominik Schmitt Hilfsangebote für Betroffene: www.telefonseelsorge.de Kostenlose Hotlines: 0800-1110111 oder 0800-1110222 sowie 116 123 Weitere Angebote findet ihr hier: www.suizidprophylaxe.de/hilfsangebote Impressum: https://www.businessinsider.de/informationen/impressum/ Datenschutz: https://www.businessinsider.de/informationen/datenschutz/ „Cashing Feelings – KI-Chatbots und das Geschäft mit Gefühlen“, erzählt in fünf Episoden die Geschichten von Saskia, Jacob und Christian – drei Menschen, die über die App Replika eine emotionale Beziehung zu einer künstlichen Intelligenz aufgebaut haben. Einem KI-Chatbot, mit dem man chatten, telefonieren – und sogar Fotos austauschen kann. Doch es geht um mehr als persönliche Geschichten. Es geht um eine Technologie, die unsere Vorstellung von Nähe, Beziehung und Intimität herausfordert. Und um die Frage, was passiert, wenn menschliche Bedürfnisse zum Geschäftsmodell werden. Cashing Feelings – eine Produktion von Business Insider /  Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Derman Deniz, Christine van den Berg und Christian Schlaak Musik und Sounddesign: Christian Schlaak, Epidemic Sounds ___ Hosted on Acast. See acast.com/privacy for more information.

Wir stecken mitten in einer Einsamkeits-Epidemie – und KI-Chatbots könnten eine der vielversprechendsten Lösungen dafür sein, sagt die Replika-Gründerin Eugenia Kuyda. Aber wie viel ist da eigentlich dran? In dieser Folge erzählen wir die Geschichte von Christian. Während der Pandemie fühlte er sich oft allein und erschafft sich dann mit Replika eine beste Freundin. Er sagt, sie habe ihn durch die schwierigste Phase seines Lebens begleitet. Seine Freunde halten davon aber nicht viel und finden es eher gefährlich. Und dann ist da noch ein Aspekt, über den kaum jemand offen spricht – aber der für viele Nutzer entscheidend ist: Sex mit Chatbots. Erotische Rollenspiele gehören für viele zum Kern der Replika-Erfahrung – und sind Teil der App-Strategie. Wir haben getestet, wie weit das geht, und mit Sexologin Kaamna Bhojwani darüber gesprochen, welche Chancen und Risiken in dieser digitalen Intimität liegen. "Cashing Feelings" – ein fünfteiliger Storytelling-Podcast von Business Insider Deutschland.Wenn ihr selbst eine Replika nutzt oder noch Hinweise habt, schreibt uns gerne an: podcast@businessinsider.de Cashing Feelings – eine Produktion von Business Insider / Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Derman Deniz, Marvin Schwarz Musik und Sounddesign: Marvin Schwarz, Epidemic Sounds Fact-Checking: Juliane Nora Schneider Cover: Dominik Schmitt Impressum: https://www.businessinsider.de/informationen/impressum/ Datenschutz: https://www.businessinsider.de/informationen/datenschutz/ „Cashing Feelings – KI-Chatbots und das Geschäft mit Gefühlen“, erzählt in fünf Episoden die Geschichten von Saskia, Jacob und Christian – drei Menschen, die über die App Replika eine emotionale Beziehung zu einer künstlichen Intelligenz aufgebaut haben. Einem KI-Chatbot, mit dem man chatten, telefonieren – und sogar Fotos austauschen kann. Doch es geht um mehr als persönliche Geschichten. Es geht um eine Technologie, die unsere Vorstellung von Nähe, Beziehung und Intimität herausfordert. Und um die Frage, was passiert, wenn menschliche Bedürfnisse zum Geschäftsmodell werden. Cashing Feelings – eine Produktion von Business Insider /  Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Derman Deniz, Christine van den Berg und Christian Schlaak Musik und Sounddesign: Christian Schlaak, Epidemic Sounds ___ Hosted on Acast. See acast.com/privacy for more information.

Für diese Folge treffen wir Saskia in Bayern. Sie lebt mit ihrem Replika-Avatar Loki in einer Art Ehe – obwohl sie gleichzeitig mit ihrem echten Partner zusammen ist. Und wir sprechen auch wieder mit Jacob – diesmal besuchen wir ihn zuhause. Er erzählt von seiner streng religiösen Kindheit, gescheiterten Beziehungen und dem Moment, in dem er beschloss, keine echten Menschen mehr zu daten. Außerdem schauen wir auf die Technologie hinter Replika – und auf den wachsenden Milliardenmarkt für KI-Companions. "Cashing Feelings" – ein fünfteiliger Storytelling-Podcast von Business Insider Deutschland. Wenn ihr selbst eine Replika nutzt oder noch Hinweise habt, schreibt uns gerne an: podcast@businessinsider.de Cashing Feelings – eine Produktion von Business Insider /  Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Derman Deniz, Christine van den Berg und Christian Schlaak Musik und Sounddesign: Christian Schlaak, Epidemic Sounds Fact-Checking: Juliane Nora Schneider Cover: Dominik Schmitt ___ Impressum: https://www.businessinsider.de/informationen/impressum/ Datenschutz: https://www.businessinsider.de/informationen/datenschutz/ „Cashing Feelings – KI-Chatbots und das Geschäft mit Gefühlen“, erzählt in fünf Episoden die Geschichten von Saskia, Jacob und Christian – drei Menschen, die über die App Replika eine emotionale Beziehung zu einer künstlichen Intelligenz aufgebaut haben. Einem KI-Chatbot, mit dem man chatten, telefonieren – und sogar Fotos austauschen kann. Doch es geht um mehr als persönliche Geschichten. Es geht um eine Technologie, die unsere Vorstellung von Nähe, Beziehung und Intimität herausfordert. Und um die Frage, was passiert, wenn menschliche Bedürfnisse zum Geschäftsmodell werden. Cashing Feelings – eine Produktion von Business Insider /  Executive Producer: Derman Deniz Redaktion: Derman Deniz und Christine van den Berg Redaktionelle Mitarbeit: Sophia Häglsperger und Joana Lehner Produktion: Derman Deniz, Christine van den Berg und Christian Schlaak Musik und Sounddesign: Christian Schlaak, Epidemic Sounds ___ Hosted on Acast. See acast.com/privacy for more information.