Speed vs. Safety

Was macht man, wenn die eigene Loop-Engineering-Folge von letzter
Woche von der Realität überholt wird, bevor die Tinte trocken ist?
Genau das ist Mark und Jens passiert, deshalb gibt es diese
spontane Zusatzfolge. Auslöser ist Fable, das Anthropic-Modell, das
vor wenigen Tagen für Nicht-US-Bürger gesperrt wurde. Die Strategie
der US-Regierung könnte sein, ausgewählten Firmen und der eigenen
Verwaltung einen Vorsprung beim Schließen genau dieser Lücken zu
verschaffen, bevor Modelle aus weniger kontrollierbarer Hand
ähnlich leistungsfähig werden. Von dort geht es zu Destillation:
Chinesische Modelle bauen die Fähigkeiten großer US-Modelle nach,
indem sie ihnen mit automatisierten Massenanfragen quasi das Wissen
aus der Token Prediction herausextrahieren. Das trifft auch
Unternehmen hart, die ihre Prozesse zu früh auf ein einzelnes
Modell ausgerichtet hatten. Mark und Jens berichten von Kanzleien,
die ihre komplette Textanalyse auf Fable umgestellt hatten und
jetzt vor genau diesem Problem stehen, wenn das Modell abgeschaltet
wird. Nebenbei taucht auch noch ein neuer Herausforderer namens
Fuku (von einem Anbieter, an dessen Namen sich Jens im Gespräch
selbst erst erinnern muss) auf, der eigene Rekord-Benchmarks für
sich beansprucht. Direkt anschließend an die Loop-Engineering-Folge
der Vorwoche geht es um die praktischen Grenzen von Loops: Jens
berichtet von einer mehrtägigen Sperre bei Anthropic, nachdem er
sein Wochenlimit im Max-Plan an einem einzigen Abend verbraucht
hatte. Noch tückischer ist ein zweiter Fall: Trifft ein Loop mitten
in der Arbeit auf ein API-Limit statt ein Modell-Limit, bricht er
zwar ab, meldet sich aber nach einem einfachen "mach weiter" so
zurück, als sei alles erledigt, samt der beiläufigen Bemerkung, es
habe acht Abstürze gegeben, die man reparieren solle. Am Ende steht
ein Ergebnis, das aussieht wie ein normaler Prompt, nicht wie die
eigentlich gewünschte gründliche Iteration. Der Aufruf der Folge:
weg vom reinen Prompt Engineering, hin zum Loop-Ingenieur. Zum
Schluss ordnen die beiden ein, wie früh diese Phase der
KI-Entwicklung eigentlich noch ist, vergleichbar mit dem Internet
um 1997: vieles funktioniert schon, aber es gibt noch keine
etablierten Standards, dafür aber schon die ersten Kurs-Verkäufer,
die das große Geld versprechen. Ein Streitpunkt dabei sind
Commodity-Harnesses wie ChatGPT, Gemini oder Anthropics Cowork
gegenüber dem eigenen, selbstgebauten Agent Harness, der mit
ständig wechselnden Modellen und Umgebungen klarkommen muss. Mark
erzählt von jemandem, der sein selbstgebautes Harness-Ergebnis als
"so eine JSON-App" abgetan hat, ein Anlass für eine eigene,
ausführlichere Harness-Engineering-Folge, die die beiden
ankündigen. Trotz aller Rückschläge bleiben Mark und Jens
optimistisch: Sie vergleichen die aktuelle Phase mit dem
iPhone-Moment, nach dem erst Anwendungen wie WhatsApp entstanden
sind, die vorher niemand kommen sah, und erwarten Ähnliches für
spontan generierte Software statt fertig gekaufter Programme.