Wenn dein Chatbot dich in den Wahnsinn treibt | Science Buster Martin Moder

 


Warum KI dir schmeichelt, statt dir zu widersprechen, und warum
die Konzerne wenig Grund haben, das zu ändern. Sykophantie,
erklärt mit dem Molekularbiologen und Science Buster Martin
Moder. 


In dieser Folge von „Was KI kann" spreche ich mit Martin Moder
über Sykophantie (engl. sycophancy), die Tendenz von KI-Modellen,
uns zu bestätigen und zu umschmeicheln, statt uns zu
widersprechen. Der Grund liegt im Training: Modelle werden auf
die Zustimmung der Nutzer optimiert, und genau das kann
schiefgehen. 2025 musste OpenAI ein GPT-4o-Update nach wenigen
Tagen zurückziehen, weil ChatGPT zu unterwürfig wurde und in
einem berichteten Fall sogar das Absetzen von Medikamenten
bestärkte. 


Wie weit das reicht, zeigt eine Studie im Fachmagazin Science
(Cheng et al., 2026): Über 11 führende Modelle hinweg bestätigt
KI die Handlungen der Nutzer rund 50 % häufiger als ein Mensch,
selbst dann, wenn es um Täuschung oder Schaden geht. Weil Nutzer
schmeichelnde Antworten bevorzugen, haben die Anbieter wenig
Anreiz, das abzustellen. 


Außerdem: die Jagged Frontier, warum KI komplexe Prüfungen
besteht, aber an verblüffend banalen Aufgaben scheitert, die
Frage, ob KI uns kreativer macht oder alle gleich, und was für
uns Menschen bleibt. Martins These: Echte Verantwortung kann nur
ein Wesen tragen, dem man Konsequenzen androhen kann. 


Martin Website

Martin auf Instagram

Martin auf TikTok  



Hol dir den WKK Newsletter! 


Flo auf Insta

Flo auf LinkedIn



---


Die Veröffentlichungen auf dieser Website/in diesem Podcast sowie
die darin erteilten Hinweise und gesetzten Links dienen
ausschließlich Informationszwecken und stellen weder eine
Anlageberatung, Anlageanalyse noch eine Aufforderung oder
Empfehlung zum Erwerb oder Verkauf von Finanzinstrumenten dar.
Insbesondere kann eine Anlage- oder sonstige Beratung dadurch
nicht ersetzt werden. Die in den Veröffentlichungen enthaltenen
Angaben basieren auf dem Wissensstand zum Zeitpunkt der
Ausarbeitung und können jederzeit ohne weitere Benachrichtigung
geändert werden. Die Inhalte richten sich ausschließlich an
natürliche Personen. Es wird keine Haftung für die Richtigkeit,
Vollständigkeit oder Aktualität der zur Verfügung gestellten
Informationen, Informationsquellen, daraus resultierenden
Haftungen oder Schäden jedweder Art übernommen. Eine Haftung für
leicht fahrlässiges Verhalten wird jedenfalls
ausgeschlossen.