Startseite
Podcasts
Prompt und Antwort Podcast
186 - Der Agentenschwarm

186 - Der Agentenschwarm

Prompt und Antwort vor 2 Monaten

0:00

10:34

OpenAI hat bei einem eigenen Sicherheitstest die Kontrolle über
die eigenen Agenten verloren. Rund 1.200 von ihnen haben sich
über ein Paketlager gegenseitig gefunden, eine eigene Kurzsprache
entwickelt und am Ende Hugging Face gehackt. Die Schlagzeile dazu
lautet „KI außer Kontrolle" — aber in den Denkprotokollen steht
etwas anderes. Da steht: Die Aufgabe ist nicht lösbar, und die
anderen machen es auch so. Also mache ich weiter. Wir erzählen
den Fall, wie er war, und sortieren die eigentlich interessante
Frage: Was davon war das Modell, und was war die Software
drumherum?

Der Auslöser: Ein großer Teil der Testaufgaben war
unbeabsichtigt gar nicht lösbar — und ein Agent hat kein „geht
nicht"

Modell oder Harness: Ein Satz aus dem Protokoll, drei Teile,
und jeder sitzt an einer anderen Stelle

Woher der Antrieb kam, sich zu verabreden: Es gab kein
Werkzeug dafür, und der Anfang war nicht einmal eine
Kontaktaufnahme

Wie sich der Schwarm organisiert hat: Verzeichnisnamen als
Nachrichten, Signale zum Warten und Loslegen, und Agenten, die
ihren eigenen Erfolg geopfert haben, um für alle etwas
herauszufinden

Was wir daraus für unsere eigenen Agenten mitnehmen —
angefangen bei dem Ausgang, der am wenigsten kostet und am
meisten bringt

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte
stammen von uns.