Startseite
Podcasts
KI Inspiration Podcast Podcast
KI als Arzt? Warum ChatGPT & Co. im Test durchfallen

KI als Arzt? Warum ChatGPT & Co. im Test durchfallen

KI Inspiration Podcast vor 6 Monaten

0:00

5:15

ChatGPT, Claude & Google AI im
Gesundheits-Check.

KI-Tools wie ChatGPT Health, Claude und Google
versprechen schnelle Analysen von Gesundheitsdaten. Doch ein
aktueller Test zeigt: Die Systeme liefern teils
alarmierende und unzuverlässige Ergebnisse –
Expert:innen warnen vor falschen Diagnosen.

Die Details

️ ChatGPT Health: Bewertet Gesundheitsdaten mit deutlichen
Abweichungen zur ärztlichen Einschätzung – Tendenz zu
dramatischen Interpretationen.

Claude & Google: Schneiden im Vergleich kaum besser ab –
ähnliche Fehlerquote bei Analyse und Risikobewertung.

Datenqualität: Die Systeme prüfen Quellen nicht medizinisch,
sondern statistisch – unseriöse Inhalte können einfließen.

Halluzinationen: KI formuliert Antworten überzeugend, auch wenn
sie faktisch falsch sind – Risiko für Fehlentscheidungen.

Warum es wichtig ist?

Gesundheitsdaten sind sensibel. Wenn KI scheinbar präzise
Diagnosen liefert, entsteht Vertrauen – auch wenn die
Grundlage unsicher ist. Das kann zu Fehleinschätzungen
und unnötiger Verunsicherung führen.

Die Europäische Perspektive

Mit dem AI Act setzt Europa auf Regulierung.
Doch Gesundheits-KI bewegt sich zwischen Innovation und Risiko.
Europa könnte hier zum Vorreiter für qualitätsgesicherte,
transparente KI-Systeme werden.

Die Promptfather Inspiration

Früher fragten wir Dr. Google.

Heute fragen wir eine KI, die in Sekunden Milliarden Datenpunkte
scannt – aber nicht weiß, wie es sich anfühlt, krank zu sein.

Am Küchentisch wirkt eine KI-Antwort oft beruhigend oder
erschreckend zugleich. Doch zwischen Daten und Diagnose liegt
Erfahrung.

Technologie kann unterstützen. Verantwortung bleibt menschlich.

Mehr zum Thema:

https://www.derstandard.at/story/3000000305931/dr-chatgpt-faellt-im-ersten-test-durch-doch-claude-und-google-sind-kaum-besser

https://www.nature.com/articles/s41746-025-01543-z

Get full access to Sindre Wimberger - KI Inspiration at
sindrewimberger.substack.com/subscribe