Startseite
Podcasts
Prompt und Antwort Podcast
213 - Halluzinationen gezielt prüfen

213 - Halluzinationen gezielt prüfen

Prompt und Antwort vor 5 Tagen

0:00

14:06

Muss man wirklich alles nachrecherchieren, was ein Sprachmodell
behauptet? Für unseren nächsten Workshop gehen wir durch, woher
Halluzinationen kommen, wie gut die Modelle heute sind und was im
Prompt und im Harness dagegen hilft. Dazu kommen die Ergebnisse
unseres eigenen Pilotversuchs mit einundzwanzig Fragen, fünf
Modellen und knapp zweitausend Läufen. Am Ende steht kein
Angstszenario, sondern ein Prüfplan.

Warum ein Sprachmodell Plausibles statt Wahres erzeugt, und
was Training und Gefälligkeit damit zu tun haben

Der aktuelle Stand: warum es nicht die eine
Halluzinationsrate gibt und was Vectara und der Stanford AI Index
messen

Was im Prompt hilft und wie wenig ein erlaubtes „Weiß ich
nicht“ in unserem Test gebracht hat

Vier Hebel im Harness: Grounding, Belegpflicht per Code,
Verifizierer und Konsistenzprüfung

Unser Experiment mit und ohne Websuche, seine Grenzen und
eine Klima-Recherche als Praxisbeispiel

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte
stammen von uns.