Dein Kontextfenster ist kein Benzintank – Sweet Spots, RAG & Workflow-Design
vor 2 Wochen
Podcast
Podcaster
Beschreibung
vor 2 Wochen
Warum ist nicht egal, wie viel ihr in euer Kontextfenster kippt?
Und warum ist RAG alles andere als tot? Jochen hat eine Kollegin,
die 70 Seiten Buchmanuskript ins Kontextfenster schmeißt – und sich
wundert, dass ihr Limit bis Dienstag aufgebraucht ist. Barbara
erklärt, warum der Sweet Spot bei 130.000 bis 150.000 Token liegt,
was hinter Needle in the Haystack und Lost in the Middle steckt,
und warum PDFs aus der Hölle kommen. Außerdem: Warum eure Corporate
Tools weniger können als Consumer-Chatbots, warum SharePoint kein
Data Lake ist (auch wenn ihr ihn so benutzt), und warum die
eigentliche Arbeit nicht im Bauen liegt, sondern im Whiteboarding.
Spoiler: Das Problem sitzt vor dem Rechner. Und die Faulheit kostet
Arbeitsplätze – nicht die KI.
Und warum ist RAG alles andere als tot? Jochen hat eine Kollegin,
die 70 Seiten Buchmanuskript ins Kontextfenster schmeißt – und sich
wundert, dass ihr Limit bis Dienstag aufgebraucht ist. Barbara
erklärt, warum der Sweet Spot bei 130.000 bis 150.000 Token liegt,
was hinter Needle in the Haystack und Lost in the Middle steckt,
und warum PDFs aus der Hölle kommen. Außerdem: Warum eure Corporate
Tools weniger können als Consumer-Chatbots, warum SharePoint kein
Data Lake ist (auch wenn ihr ihn so benutzt), und warum die
eigentliche Arbeit nicht im Bauen liegt, sondern im Whiteboarding.
Spoiler: Das Problem sitzt vor dem Rechner. Und die Faulheit kostet
Arbeitsplätze – nicht die KI.
Weitere Episoden
39 Minuten
vor 6 Tagen
49 Minuten
vor 3 Wochen
41 Minuten
vor 1 Monat
36 Minuten
vor 2 Monaten
44 Minuten
vor 2 Monaten
Abonnenten
Kleve
Kommentare (0)
Melde Dich an, um einen Kommentar zu schreiben.