Diagnose: Automation Bias – Die unsichtbare Gefahr, die jeden Befund beeinflusst

Automation Bias. Ein Begriff, den viele noch nie gehört haben –
und der trotzdem längst Teil unseres klinischen Alltags
ist.

Denn jedes Mal, wenn ein KI-System eine Empfehlung abgibt,
passiert etwas ganz Menschliches:
Wir neigen dazu, ihr zu folgen. Selbst dann, wenn unser eigener
Blick etwas anderes sagt. 

Nicht aus Bequemlichkeit. Nicht aus Inkompetenz.
Sondern weil unser Gehirn unter Druck genau so
funktioniert.

In dieser Folge von “Radiologie: Klartext” geht es um genau
dieses Phänomen – und warum es weit mehr ist als ein
theoretisches Risiko.

Ich spreche über eine Studie, die wir selbst durchgeführt haben.
Über Radiologinnen und Radiologen mit bis zu 15 Jahren Erfahrung,
die systematisch falschen KI-Vorschlägen gefolgt sind. Und über
eine Fehlerart, bei der Erfahrung plötzlich kaum noch
schützt.

Aber es geht nicht nur um Zahlen.

Es geht um Vertrauen.
Um Verantwortung.
Und um die unbequeme Frage: Was passiert mit uns als Fach, wenn
wir anfangen, dem System mehr zu glauben als uns selbst?

Kapitel:
00:00 Warum ich damals auf der Bühne angegangen wurde
01:19 Was Automation Bias wirklich ist
02:57 Die Studie – und was sie zeigt
04:25 Der gefährlichste Fehler
05:10 Warum unser Gehirn so reagiert
07:27 KI hilft – aber du lernst nichts
08:19 Wenn KI falsch liegt
09:40 Wer haftet eigentlich?
11:21 Wie du mit KI arbeiten solltest
12:40 Das eigentliche Problem: Deskilling
13:48 Wohin sich die Radiologie entwickelt

Die Publikation zu Automation Bias, an der ich mitgewirkt habe:
https://pubs.rsna.org/doi/10.1148/radiol.222176

Links zu den anderen erwähnten Publikationen:
Automation Bias Mosier KL, Skitka LJ. Human decision makers and
automated decision aids: Made for each other? In: Parasuraman R,
Mouloua M (Eds.), Automation and Human Performance. Erlbaum,
1996: 201–220.
Mosier KL, Skitka LJ, Heers S, Burdick M. Automation bias:
Decision making and performance in high-tech cockpits. Int J
Aviat Psychol 1998; 8(1): 47–63.
Chassagnon G et al. Can incorrect artificial intelligence (AI)
results impact radiologists, and if so, what can we do about it?
A multi-reader pilot study of lung cancer detection with chest
radiography. European Radiology 2023. DOI:
10.1007/s00330-023-09747-1
Bernstein MH et al. Can incorrect artificial intelligence (AI)
results impact radiologists, and if so, what can we do about it?
A multi-reader pilot study of lung cancer detection with chest
radiography. European Radiology 2023. DOI:
10.1007/s00330-023-09747-1
Rezazade Mehrizi MH et al. The impact of AI suggestions on
radiologists' decisions: a pilot study of explainability and
attitudinal priming interventions in mammography examination.
Scientific Reports 2023. DOI: 10.1038/s41598-023-36435-3
Bernstein MH et al. Randomized Study of the Impact of AI on
Perceived Legal Liability for Radiologists. NEJM AI 2024/2025.
DOI: 10.1056/AIoa2400785
Bundesärztekammer. Stellungnahme „Künstliche Intelligenz in der
Medizin." 2025. Verfügbar unter: bundesaerztekammer.de

Mehr Infos & Kurse auf meiner Lernplattform:
www.lernrad.com
Für Anfragen: bettina.baessler@lernrad.com

⸻

#RadiologieKlartext #Radiologie #AutomationBias #KIinderMedizin
#Medizin #Weiterbildung #Radiologe #KünstlicheIntelligenz
#Diagnostik #Patientensicherheit #Gesundheitssystem #Radiology
#Podcast