Zu Risiken und Nebenwirkungen fragen Sie nicht Ihren Chatbot

Ist das Fußpilz? Lies mal diesen MRT-Befund – brauche ich wirklich
eine Knie-OP? 40 Millionen Menschen stellen ChatGPT
Gesundheitsfragen. Jeden Tag. Das zumindest sagt OpenAI, die Firma
hinter dem Chatbot. Und was genau antwortet ChatGPT? Das ist gar
nicht so leicht zu sagen. Was aber immer deutlicher wird: Neben
guten Ratschlägen, korrekten Einordnungen, wirklicher Hilfe gibt
ChatGPT immer wieder auch Mist von sich. Wie genau das unsere
Gesundheit gefährden könnte, darum geht es in der neuen Folge des
ZEIT-Wissen-Podcasts. Es geht um die Behandlung von Kopfläusen und
Krebs, es geht um Psychosen und Patienten, die ihren Ärzten nicht
mehr vertrauen, sondern ChatGPT. Und allem voran geht es um die
Angewohnheit von Chatbots, den User zu umschmeicheln und zu
bestärken.  Eva Wolfangel, Redakteurin im Digitalressort der
ZEIT, bespricht mit Jakob Simmank, Chefreporter Gesundheit, was man
über die Gesundheitsgefahren von ChatGPT und anderen Chatbots weiß.
Und in seiner unmöglichen Kolumne geht Christoph Drösser der Frage
nach, warum Chatbots eigentlich halluzinieren.  Shownotes: In
diesem Text erzählt Woher-Weißt-Du-das?-Host Max Rauner, wie ihm
ChatGPT bei einer Schulterverletzung half. Welche Möglichkeiten
KI-Expertensysteme in der Medizin bieten, haben Jakob von Lindern
und Jakob Simmank den Medizin-KI-Chefentwickler von Google gefragt.
Hier beschreibt Eva Wolfangel, wie ihr ein Chatbot weismachen
wollte, dass er lebendig ist, ein Bewusstsein hat – und dringend
aus dem Computer befreit werden muss.     ZEIT
WISSEN-Probeabo mit einer Gratisausgabe: zeit.de/wissen-testen
Vergünstigtes Podcast-Abo für ZEIT WISSEN-Leser zeit.de/abo-wissen
  Wir freuen uns über Ideen, Kritik und Feedback. Schreiben
Sie uns an podcast@zeit-wissen.de   [ANZEIGE] Mehr über die
Angebote unserer Werbepartnerinnen und -partner finden
Sie HIER. [ANZEIGE] Wenn Sie uns nicht nur hören, sondern auch
lesen möchten, testen Sie jetzt das ZEIT-WISSEN-Magazin 1x
kostenlos.