Radiologie: KLARTEXT

Automation Bias. Ein Begriff, den viele noch nie gehört haben – und der trotzdem längst Teil unseres klinischen Alltags ist. Denn jedes Mal, wenn ein KI-System eine Empfehlung abgibt, passiert etwas ganz Menschliches: Wir neigen dazu, ihr zu folgen. Selbst dann, wenn unser eigener Blick etwas anderes sagt.  Nicht aus Bequemlichkeit. Nicht aus Inkompetenz. Sondern weil unser Gehirn unter Druck genau so funktioniert. In dieser Folge von “Radiologie: Klartext” geht es um genau dieses Phänomen – und warum es weit mehr ist als ein theoretisches Risiko. Ich spreche über eine Studie, die wir selbst durchgeführt haben. Über Radiologinnen und Radiologen mit bis zu 15 Jahren Erfahrung, die systematisch falschen KI-Vorschlägen gefolgt sind. Und über eine Fehlerart, bei der Erfahrung plötzlich kaum noch schützt. Aber es geht nicht nur um Zahlen. Es geht um Vertrauen. Um Verantwortung. Und um die unbequeme Frage: Was passiert mit uns als Fach, wenn wir anfangen, dem System mehr zu glauben als uns selbst? Kapitel: 00:00 Warum ich damals auf der Bühne angegangen wurde 01:19 Was Automation Bias wirklich ist 02:57 Die Studie – und was sie zeigt 04:25 Der gefährlichste Fehler 05:10 Warum unser Gehirn so reagiert 07:27 KI hilft – aber du lernst nichts 08:19 Wenn KI falsch liegt 09:40 Wer haftet eigentlich? 11:21 Wie du mit KI arbeiten solltest 12:40 Das eigentliche Problem: Deskilling 13:48 Wohin sich die Radiologie entwickelt Die Publikation zu Automation Bias, an der ich mitgewirkt habe: https://pubs.rsna.org/doi/10.1148/radiol.222176 Links zu den anderen erwähnten Publikationen: Automation Bias Mosier KL, Skitka LJ. Human decision makers and automated decision aids: Made for each other? In: Parasuraman R, Mouloua M (Eds.), Automation and Human Performance. Erlbaum, 1996: 201–220. Mosier KL, Skitka LJ, Heers S, Burdick M. Automation bias: Decision making and performance in high-tech cockpits. Int J Aviat Psychol 1998; 8(1): 47–63. Chassagnon G et al. Can incorrect artificial intelligence (AI) results impact radiologists, and if so, what can we do about it? A multi-reader pilot study of lung cancer detection with chest radiography. European Radiology 2023. DOI: 10.1007/s00330-023-09747-1 Bernstein MH et al. Can incorrect artificial intelligence (AI) results impact radiologists, and if so, what can we do about it? A multi-reader pilot study of lung cancer detection with chest radiography. European Radiology 2023. DOI: 10.1007/s00330-023-09747-1 Rezazade Mehrizi MH et al. The impact of AI suggestions on radiologists' decisions: a pilot study of explainability and attitudinal priming interventions in mammography examination. Scientific Reports 2023. DOI: 10.1038/s41598-023-36435-3 Bernstein MH et al. Randomized Study of the Impact of AI on Perceived Legal Liability for Radiologists. NEJM AI 2024/2025. DOI: 10.1056/AIoa2400785 Bundesärztekammer. Stellungnahme „Künstliche Intelligenz in der Medizin." 2025. Verfügbar unter: bundesaerztekammer.de Mehr Infos & Kurse auf meiner Lernplattform: www.lernrad.com Für Anfragen: bettina.baessler@lernrad.com ⸻ #RadiologieKlartext #Radiologie #AutomationBias #KIinderMedizin #Medizin #Weiterbildung #Radiologe #KünstlicheIntelligenz #Diagnostik #Patientensicherheit #Gesundheitssystem #Radiology #Podcast

"Radiologie grenzenlos" – das ist das Motto des Röntgenkongresses 2026, das ich als Kongresspräsidentin mit ausgewählt habe. Es ist eine Vision, ein Versprechen, das ich mir wirklich wünsche. Aber was passiert, wenn man selbst an seine Grenzen stößt? Wenn Krankheit im System plötzlich zum Problem wird?In dieser Episode spreche ich über das, was viele kennen – und kaum jemand laut sagt.️ Radiologie KLARTEXT – für alle, die sich das schon immer gedacht haben.

Sollte man im Zeitalter von Künstlicher Intelligenz (KI) noch Radiolog:in werden – oder nicht?


Diese Frage stand als Kommentar unter einem meiner Videos. Und mir war sofort klar: Das ist kein Ja-oder-Nein. Das ist ein eigenes Video - und jetzt ist sogar ein eigener Podcast draus geworden.


Denn ich glaube, es ist die falsche Frage.


In dieser ersten Folge meines neuen Podcasts "Radiologie: Klartext" spreche ich über das, was unser Fach wirklich bedroht – und warum KI dabei weniger die Ursache ist als vielmehr der Katalysator. Über Automation Bias, Deskilling, investorengetriebene Bildfabriken und ein Vergütungssystem, das Qualität strukturell bestraft. Und darüber, welche Radiologie auch in Zukunft noch gebraucht wird – mehr denn je.


Den Artikel von Christoph Agten, der den Ausgangspunkt für diese Folge geliefert hat, verlinke ich hier: https://www.linkedin.com/pulse/war-ai-illusion-safety-christoph-agten-gkdvf/


Die Publikation zu Automation Bias, an der ich mitgewirkt habe: https://pubs.rsna.org/doi/10.1148/radiol.222176


Kapitel:00:00 Die Frage, die alles ausgelöst hat00:21 Der Agten-Artikel: Die Raketen-Analogie01:21 Meine These: Der Boden ist schon morsch01:36 Was mir meine Zweitbefundungen zeigen02:30 Die unbequeme Frage: Was schützt uns noch vor KI?02:57 Das strukturelle Problem: Was wirklich vergütet wird03:23 Investorenpraxen und der Verlust des klinischen Kontexts04:28 Das echte Gegenargument: Wer unterschreibt, haftet05:01 Automation Bias – und warum ich dazu geforscht habe05:52 Der Nachwuchs: Skills, die nie aufgebaut werden06:51 Welche Radiologie hat Zukunft?07:39 Wir bleiben nur Ärzte, wenn wir wieder Ärzte sind08:28 Der Worst Case ist nicht unvermeidlich08:48 Meine ehrliche Antwort


Mehr Infos & Kurse auf meiner Lernplattform: www.lernrad.com Für Anfragen: bettina@bettina-baessler.de