KI als Arzt? Warum ChatGPT & Co. im Test durchfallen

ChatGPT, Claude & Google AI im
Gesundheits-Check.


KI-Tools wie ChatGPT Health, Claude und Google
versprechen schnelle Analysen von Gesundheitsdaten. Doch ein
aktueller Test zeigt: Die Systeme liefern teils
alarmierende und unzuverlässige Ergebnisse –
Expert:innen warnen vor falschen Diagnosen.


Die Details


️ ChatGPT Health: Bewertet Gesundheitsdaten mit deutlichen
Abweichungen zur ärztlichen Einschätzung – Tendenz zu
dramatischen Interpretationen.


Claude & Google: Schneiden im Vergleich kaum besser ab –
ähnliche Fehlerquote bei Analyse und Risikobewertung.


Datenqualität: Die Systeme prüfen Quellen nicht medizinisch,
sondern statistisch – unseriöse Inhalte können einfließen.


Halluzinationen: KI formuliert Antworten überzeugend, auch wenn
sie faktisch falsch sind – Risiko für Fehlentscheidungen.


Warum es wichtig ist?


Gesundheitsdaten sind sensibel. Wenn KI scheinbar präzise
Diagnosen liefert, entsteht Vertrauen – auch wenn die
Grundlage unsicher ist. Das kann zu Fehleinschätzungen
und unnötiger Verunsicherung führen.


Die Europäische Perspektive


Mit dem AI Act setzt Europa auf Regulierung.
Doch Gesundheits-KI bewegt sich zwischen Innovation und Risiko.
Europa könnte hier zum Vorreiter für qualitätsgesicherte,
transparente KI-Systeme werden.


Die Promptfather Inspiration


Früher fragten wir Dr. Google.


Heute fragen wir eine KI, die in Sekunden Milliarden Datenpunkte
scannt – aber nicht weiß, wie es sich anfühlt, krank zu sein.


Am Küchentisch wirkt eine KI-Antwort oft beruhigend oder
erschreckend zugleich. Doch zwischen Daten und Diagnose liegt
Erfahrung.


Technologie kann unterstützen. Verantwortung bleibt menschlich.


Mehr zum Thema:


https://www.derstandard.at/story/3000000305931/dr-chatgpt-faellt-im-ersten-test-durch-doch-claude-und-google-sind-kaum-besser


https://www.nature.com/articles/s41746-025-01543-z


Get full access to Sindre Wimberger - KI Inspiration at
sindrewimberger.substack.com/subscribe