DraftGuidance der FDA – ein neuer Weg für KI in Pharma? | Mit Martin Heitmann

Wie oft kommt es schon vor, dass eine Aufsichtsbehörde weiter
voran ist als Unternehmen?


Selten!


Aber das passiert aktuell in der Pharma-Welt.


Denn die FDA (Food and Drug Administration) hat mit ihren
aktuellen Draft-Guidances eine gute Schippe vorgelegt, für
Unternehmen gibt es jetzt keine Ausrede mehr, um mit AI zu
starten.


Considerations for the Use of AI to support Regulatory
Decision-Making for Drug and Biological products – so heißt das
neue Paper der FDA.


Und darüber diskutiert Christof Layher, Host des
PodcastsChaosHacker-Talk mit Martin Heitmann, Secretary der
globalen Special Interest Group für Artificial Intelligence und
Software Automation.


Aber alles, was Martin in diesem Podcast erzählt, ist seine
eigeneMeinung.


Eigentlich ist das richtig cool, dass wir jetzt diese Papers
haben.


Denn jetzt geht es nicht nur um Prinzipien und wünschenswerte
Aspekte beim Vorgehen, sondern um eine echte Blaupause für
regulatory decision making.


Christof findet es wichtig, sich selbst zu kümmern und proaktiv
zukommunizieren, statt nur darauf zu warten, wann die Behörde
selbst agiert. Das möchte er auch allen Unternehmen mit auf den
Weg geben.


Doch was sagt das neue Paper der FDA nun aus?


Es ist keine Richtlinie, die nur einen Teilbereich adressiert,
sondern tatsächlich sehr übergreifend. Der gesamte
produktlebenszyklus entlang der KI wird behandelt. Dabei geht es
nicht nur ummaschinelles Lernen, sondern auch um allgemeine
Anwendungen von Künstlicher Intelligenz und um Trainingsdaten.


Die Unternehmen sollen Handlungs- und Rechtssicherheit in Bezug
auf traditionelle, nicht GPT-basierte Modelle bekommen, aber auch
auf die GPT-basierten.


Richtlinien in diesem Bereich sind sehr schnell überholt – die
brauchen ja auch ein halbes Jahr an Review-Zeit.


Und in dieser Zeit ändert sich die Welt wieder so schnell, dass
dieRichtlinie schon nicht mehr aktuell ist.


Deswegen ist das neue Paper auch eher eine Guidance, in denen
auch Beispiele genannt sind, z.B. zu Clinical Trails und aus dem
GMP-Bereich.


Es gibt einen 7-schrittigen Prozess für dieses Modell, um
Sicherheit dabei zu bekommen, ein Modell einzusetzen, ohne
Patientensicherheit, Qualität oder Datenintegrität zu gefährden.
Define the question of interest – was wollen wir überhaupt
adressieren?Define the context of use – die Rolle des Modells im
ProzessModel-Risk bestimmen – welchen Gewicht und Impact hat das
Model?Ein Plan, wie man das Model entwickeln möchte in Bezug auf
Daten, Aufbereitung, Nutzung, Erstellung und BewertungDie
Ausführung des PlansDokumentation von Ergebnissen und
AbweichungenCredibility Assessment

Wichtig ist dabei immer zu betrachten, dass ein Model in einem
größeren Komplex lebt und nicht „das eigene Ding“ machen darf.


Auch über den EU AI-Act sprechen Christof und Martin.


Sicher ist: Die Guidance hilft nicht einzelnen Usern, sondern
muss imUnterneh men etabliert werden. Dazu muss man sich auch
Gedankenmachen: Welche Prozesse und Rollen braucht es in einer
Organisation aus Life Science und Pharma, die künstliche
Intelligenz nutzt?





Kapitel:





00:00:00 Vorstellung Martin Heitmann


00:01:22 Neue Richtlinie zu AI in Pharma


00:04:25 Kommunikation mit Behörden


00:06:05 Was die FDA sich vorstellt


00:09:39 GPTs und maschinelles Lernen


00:11:03 Richtlinien sind schnell überholt


00:12:58 Beispiele in den Guidances


00:16:56 7 Schritte bei der Nutzung von AI


00:23:24 Unterschied zu traditioneller Validierung


00:26:08 Explainable AI und Transparenz


00:30:33 Guidance muss Teil des Unternehmens werden


00:35:08 Ist das Modell agil?


00:38:01 Verantwortlichkeiten und Workflows


00:42:02 ML Ops


00:47:07 Credibility


00:53:22 Vorbereitung und AI-Know How


00:54:33 Zwei Fragen an Martin