Der Arzt wird zum Auditor der KI

Der Arzt wird zum Auditor der KI Timestamps: 0:00 — Mehr als 1.000
KI-Medizingeräte sind durch FDA-Verfahren autorisiert. 0:23 —
Genau, als intelligenter Vorfilter. 0:56 — Naja, stell dir vor, du
fährst nachts stundenlang mit einem Navigationssystem. 1:39 — für
fehleranfällige Software. 2:04 — Das prüfende Subjekt bleibt der
Facharzt, der nur er besitzt den gesamten 2:30 — Die EU stuft
medizinische KI nicht ohne Grund als Hochrisikosystem ein. 2:58 —
Das ist ein zentraler Punkt, absolut. 3:32 — Wenn der Arzt keine
Drift-Logs einsehen kann, also ein Protokoll darüber,... 3:53 —
Aber genau für dieses Problem des Drifts hat die FDA Mechanismen,
4:16 — Leitplanken quasi. Exakt. 4:46 — In der Theorie klingt das
super. 5:17 — In vielen Systemen hat der Arzt nicht einmal einen
klaren Override-Pfad, 5:42 — Das ist der ultimative Praxistest für
jede Klinik, die sich heute solche... 6:12 — Wie sieht der
Override-Pfad aus, wenn ich als Arzt widerspreche? 3 Gedanken: 1.
Der positive Fall ist real: In engen Workflows kann KI Routine
entlasten und fruehere Hinweise liefern. 2. Human in the loop ist
nur real, wenn der Arzt Validierung, Unsicherheit, Drift und
Update-Historie sehen kann. 3. Der harte Test lautet: Gibt es einen
Override-Pfad, eine Patientenerklaerung und eine klare
Haftungskette? Quellen: • [1]
https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-enabled-medical-devices
• [2]
https://www.fda.gov/news-events/press-announcements/fda-issues-comprehensive-draft-guidance-developers-artificial-intelligence-enabled-medical-devices
• [3]
https://www.fda.gov/regulatory-information/search-fda-guidance-documents/marketing-submission-recommendations-predetermined-change-control-plan-artificial-intelligence
• [4]
https://www.fda.gov/medical-devices/digital-health-center-excellence/request-public-comment-measuring-and-evaluating-artificial-intelligence-enabled-medical-device
• [5]
https://health.ec.europa.eu/ehealth-digital-health-and-care/artificial-intelligence-healthcare_en
• [6]
https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models
• [7] https://www.eurekalert.org/news-releases/1114399 • [8]
https://portal.research.lu.se/en/publications/artificial-intelligence-supported-screen-reading-versus-standard-
️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten.
Podcast hören: • Apple Podcasts:
https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen:
https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #MedizinKI
#EUAIACT #FDA