Medizin-KI und Vertrauen

Ein Blick in eine zukünftige Behandlungssituation: Ein
medizinisches KI-System erstellt nach Prüfung komplexer Symptome
eine Diagnose. Vermutlich ist sie richtig. Aber wie das System zu
diesem Ergebnis kam, kann niemand erklären – auch nicht die Ärztin,
die nun gegenüber der Patientin oder dem Patienten geradestehen
muss. Sie hat zwei Möglichkeiten: Sie kann effizient arbeiten,
indem sie das Ergebnis übernimmt und zum nächsten Patienten
weitergeht. Oder sie kann versuchen, die Empfehlung zu prüfen –
jedenfalls soweit ein System, das als Blackbox funktioniert, dies
zulässt. Dann allerdings arbeitet die Ärztin kaum schneller als
ohne KI. Dieses Spannungsfeld diskutieren die Psychologin Nadine
Schlicker und der Internist und Nephrologe Prof. Dr. Ivica Grgig in
einer neuen Folge des Podcasts „O-Ton Innere Medizin“. Beide
forschen am Institut für Künstliche Intelligenz in der Medizin der
Philipps-Universität Marburg. Und beide kommen zum Schluss: Wer mit
KI wirklich Effizienzgewinne erzielen will, muss ein Stück
Kontrolle abgeben und dem System vertrauen. Aber unter welchen
Bedingungen ist das in einem Hochrisikobereich wie der Medizin
vertretbar? Und liefern Mensch und KI zusammen wirklich bessere
Ergebnisse?
https://www.medical-tribune.de/medizin/innere-medizin/medizin-ki-und-vertrauen