„Warum KI lügt – und wie OpenAI das ändern will“

Halluzinierende Chatbots? OpenAI liefert jetzt eine überraschend
ehrliche Antwort: Das Training belohnt Raten statt Ehrlichkeit.
In einem neuen Paper erklärt das Unternehmen, warum KI lieber
Unsinn erfindet, als „Ich weiß es nicht“ zu sagen – und wie man
das künftig verhindern könnte. In dieser Episode decken wir auf,
was wirklich hinter den KI-Fantasien steckt und was sich jetzt
ändern muss.


Diese Episode beschreibt die Erkenntnisse von OpenAI bezüglich
der Ursachen von Halluzinationen bei
Chatbots. Es wird erklärt,
dass Standardtrainingsmethoden dazu
führen, dass KI-Modelle dazu neigen, zu raten, anstatt
Unsicherheit zuzugeben. Dies liegt daran,
dass Trainingsbewertungen für korrekte
Vermutungen die volle Punktzahl vergeben, während die Aussage
„Ich weiß nicht“ mit null Punkten bewertet wird. Die Forscher
schlugen vor, die Bewertungssysteme neu zu
gestalten, um Fehler, die auf Vertrauen basieren,
stärker zu bestrafen. Diese Forschung könnte einen Weg
aufzeigen, KI-Modelle zuverlässiger zu
machen, indem Ehrlichkeit über das Raten belohnt wird.