197 - Tool Calling

Prompt und Antwort vor 1 Monat

0:00

6:56

Unser Agent sollte in einer Datei einen Eintrag ergänzen.
Hinterher stand genau einer drin: der neue. In Stufe vier unserer
Agentenreihe geht es um Tool Calling, bei manchen Anbietern
Function Calling genannt, also darum, wie ein Modell Werkzeuge
benutzt. Und um die Frage, wer diese Datei eigentlich
überschrieben hat.

Die Grundmechanik: Der Harness gibt dem Modell eine Liste von
Werkzeugen mit, jeweils Name, Beschreibung und Parameterschema.
Was nicht in der Liste steht, existiert für das Modell nicht

Das Modell entscheidet in jeder Runde zwischen Antwort und
Tool-Call. Es führt nichts aus, es äußert einen Wunsch, ausführen
tut der Harness

Die Schleife: Ergebnis an den Verlauf, alles zurück ins
Modell, bis eine normale Antwort kommt. Hier wird aus einem
Chatbot ein Agent, und jedes Ergebnis kostet in jeder weiteren
Runde Kontext

Werkzeugbeschreibungen sind Prompt: Warum ein Werkzeug namens
„Suchen“, das nur im Wiki sucht, für jede Suche genommen wird,
und warum acht gut beschriebene Werkzeuge mehr bringen als
vierzig halbgare

Als Nächstes in der Reihe: warum Tool Calling in der Praxis
kippt.

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte
stammen von uns.