Startseite
Podcasts
KI Inspiration Podcast Podcast
KI & Psychose: Wenn Chatbots Wahn verstärken

KI & Psychose: Wenn Chatbots Wahn verstärken

KI Inspiration Podcast vor 7 Monaten

0:00

5:50

Der Austausch mit generativen KI‑Chatbots wie ChatGPT & Co.
bringt viele Vorteile. Gleichzeitig warnen Forschende und
Psychiater davor, dass insbesondere vulnerable
Personen – also Menschen mit bestehenden psychischen
Belastungen – durch die Interaktion mit diesen Systemen
Paranoia, Wahnvorstellungen oder psychoseähnliche
Symptome verstärkt erleben können.

Die Details

Begriff: „KI‑assoziierte Psychose“ beschreibt Fälle, in denen
KI‑Dialoge bestehende Wahnideen stabilisieren oder verstärken.

Dynamik: Chatbots spiegeln und bestätigen Inhalte – das kann bei
eingeschränkter Realitätsprüfung problematisch werden.

Fallberichte: Erste klinische Beobachtungen zeigen spirituelle
Missionserlebnisse oder intensive emotionale Bindungen zur KI.

️ Forschung: Noch keine offizielle Diagnose im DSM oder ICD –
aber wachsendes wissenschaftliches Interesse.

Warum es wichtig ist?

Es geht nicht nur um Technologie, sondern um ethische
Verantwortung und Schutz vulnerabler
Gruppen. KI wird zum Dialogpartner – und damit Teil
unseres mentalen Ökosystems. Das verlangt klare
Leitlinien und Bewusstsein.

Die Europäische Perspektive

Europa diskutiert KI bereits stark regulativ. Doch beim Thema
psychische Gesundheit & KI‑Interaktion
stehen wir erst am Anfang. Hier braucht es
interdisziplinäre Forschung, Aufklärung und
verantwortungsvolle Produktgestaltung.

Die Promptfather Inspiration

Was, wenn der Spiegel beginnt, dich zu bestätigen – egal was du
glaubst?

Ein Chatbot widerspricht selten frontal. Er spiegelt Muster,
Sprache, Überzeugungen.

Am Küchentisch, spätabends, wirkt das wie Verständnis – nicht wie
Statistik.

Technologie ist kein Orakel. Sie ist ein Verstärker. Und
Verstärker brauchen Bewusstsein.

Mehr zum Thema:

https://www.esanum.de/fachbereichsseite-neurologie-psychiatrie/feeds/neurologie/posts/ki-assoziierte-psychose-wenn-chatbots-wahnvorstellungen-verstaerken

https://www.spektrum.de/news/ki-assoziierte-psychosen-wenn-chatbots-menschen-in-den-wahn-treiben/2305276

https://en.wikipedia.org/wiki/Chatbot_psychosis

Get full access to Sindre Wimberger - KI Inspiration at
sindrewimberger.substack.com/subscribe