Die Halluzinations-Falle: Wie KI-Sprachmodelle Evidenz verfälschen

„Laut KI stimmt das so...“ Und genau da fängt das Problem
an.
Wer bei der Recherche oder im Praxisalltag blind auf ChatGPT
vertraut, baut seine Evidenz auf Sand. Dr. Fabian Langenbach
(Chief Strategy Officer der DGI) packt in der neuen Podcast-Folge
aus: Über 60 % der von großen Sprachmodellen generierten
Literaturzitate sind schlichtweg erfunden. Diese sogenannten
Halluzinationen sind kein Fehler im System, sondern das Ergebnis
rein statistischer Sprachmodelle ohne echtes wissenschaftliches
Verständnis.
Noch gefährlicher: Kriminelle Netzwerke nutzen KI in sogenannten
„Paper Mills“, um gefälschte Studien in rasantem Tempo zu
produzieren. Es droht ein Teufelskreis, in dem Maschinen mit
Fake-Daten gefüttert werden und diese als Wahrheit ausspucken.








____________





Der DGI Podcast - Dein praxisrelevantes Fachwissen to go rund um
die Implantologie





www.dginet.de