KI & Psychose: Wenn Chatbots Wahn verstärken

Der Austausch mit generativen KI‑Chatbots wie ChatGPT & Co.
bringt viele Vorteile. Gleichzeitig warnen Forschende und
Psychiater davor, dass insbesondere vulnerable
Personen – also Menschen mit bestehenden psychischen
Belastungen – durch die Interaktion mit diesen Systemen
Paranoia, Wahnvorstellungen oder psychoseähnliche
Symptome verstärkt erleben können.


Die Details


Begriff: „KI‑assoziierte Psychose“ beschreibt Fälle, in denen
KI‑Dialoge bestehende Wahnideen stabilisieren oder verstärken.


Dynamik: Chatbots spiegeln und bestätigen Inhalte – das kann bei
eingeschränkter Realitätsprüfung problematisch werden.


Fallberichte: Erste klinische Beobachtungen zeigen spirituelle
Missionserlebnisse oder intensive emotionale Bindungen zur KI.


️ Forschung: Noch keine offizielle Diagnose im DSM oder ICD –
aber wachsendes wissenschaftliches Interesse.


Warum es wichtig ist?


Es geht nicht nur um Technologie, sondern um ethische
Verantwortung und Schutz vulnerabler
Gruppen. KI wird zum Dialogpartner – und damit Teil
unseres mentalen Ökosystems. Das verlangt klare
Leitlinien und Bewusstsein.


Die Europäische Perspektive


Europa diskutiert KI bereits stark regulativ. Doch beim Thema
psychische Gesundheit & KI‑Interaktion
stehen wir erst am Anfang. Hier braucht es
interdisziplinäre Forschung, Aufklärung und
verantwortungsvolle Produktgestaltung.


Die Promptfather Inspiration


Was, wenn der Spiegel beginnt, dich zu bestätigen – egal was du
glaubst?


Ein Chatbot widerspricht selten frontal. Er spiegelt Muster,
Sprache, Überzeugungen.


Am Küchentisch, spätabends, wirkt das wie Verständnis – nicht wie
Statistik.


Technologie ist kein Orakel. Sie ist ein Verstärker. Und
Verstärker brauchen Bewusstsein.


Mehr zum Thema:


https://www.esanum.de/fachbereichsseite-neurologie-psychiatrie/feeds/neurologie/posts/ki-assoziierte-psychose-wenn-chatbots-wahnvorstellungen-verstaerken


https://www.spektrum.de/news/ki-assoziierte-psychosen-wenn-chatbots-menschen-in-den-wahn-treiben/2305276


https://en.wikipedia.org/wiki/Chatbot_psychosis


Get full access to Sindre Wimberger - KI Inspiration at
sindrewimberger.substack.com/subscribe