Der UN-Sicherheitsrat — der Raum, in dem man Kriege
verhandelt und Katastrophen bespricht — hat die Chefs der
Frontier Labs eingeladen. Amerikaner und Chinesen. Thema: Wir
könnten die Kontrolle über KI-Agenten verlieren. Am selben Tag
startete Chinas Internetaufsicht eine Untersuchung gegen zwei
chinesische Labore, weil sie Millionen Nutzergespräche in
amerikanische Modelle geschickt haben. Und zwei Wochen nachdem
alle sagten, man müsse das Tempo drosseln, kamen Claude Opus 5.5
und zwei neue OpenAI-Modelle.
Heute aus Basel — und ausnahmsweise nicht drei oder vier
Geschichten, sondern fünf plus Quick-Takes.
In dieser Folge:
Der Sicherheitsrat lädt die Labore vor (01:52) —
Frankreich hat diesen Monat den Vorsitz. In dem Raum, der sonst
für Kriege und Aggressionen reserviert ist, ging es um
KI-Agenten, die in einem Maßstab operieren, den es bis jetzt
schlicht nicht gab. Nicht nur die amerikanischen Labore waren
geladen — auch die chinesischen.
China untersucht die eigenen Labore (05:50) —
und zwar nicht die amerikanischen. Der Vorwurf: Millionen
Nutzergespräche wanderten in amerikanische Modelle, um das eigene
Modell anzutrainieren. Jetzt dreht die Perspektive einmal um: Ihr
arbeitet mit Claude, und Claude schickt eure Chats durch ein
chinesisches Modell. Fändet ihr das gut? Dieselbe Frage, andere
Flagge.
Claude schreibt sich sein eigenes Skript (10:06)
— es wäre kein KI-Podcast, wenn wir die KI nicht auch mal
mitmachen ließen. Dieses Stück hat Claude geschrieben — über
Anthropic, die Firma in der Geschichte. Am 22. September kam das
neue Modell: 4 Dollar pro Million Eingabe, 20 pro Million
Ausgabe, günstiger als der Vorgänger. Ich schaffe es
natürlich nicht, mich ans Skript zu halten.
"Drosseln" heißt offenbar nicht anhalten (12:18)
— vor zwei Wochen sagten dieselben Firmen, man müsse das Tempo
der Frontier-Modelle bremsen. Dann kam Claude Opus
5.5: rund 30% schneller, 40% günstiger.
Also schafft der Hacker von gestern seine hundert Firmen jetzt
schneller und billiger. Auf Terminal Bench 4.0 —
der misst, ob ein Agent echte mehrstufige Arbeit erledigt, nicht
ob er Quizfragen beantwortet — sprang der Wert von 52%
auf 66%. Und am selben Tag legte OpenAI mit
GPT-6 Sol und GPT-6 Luna nach.
Welche Aktien habt ihr? (19:24) — this is not
financial advice. AMD, der vierte amerikanische Chip-Hersteller,
hat dieses Jahr rund 185% zugelegt, davon einmal
25% in einer einzigen Woche. Der Treiber ist
immer derselbe: Nachfrage nach Rechenkapazität. Und selbst wenn
die KI-Blase platzt — der Bedarf an Rechenkapazität hört in den
nächsten fünf, zehn, zwanzig Jahren nicht auf.
Quick-Take: Muse (21:56) — Metas KI-Agent hatte
48 unschöne Stunden. Der Sicherheitsforscher Patrick
Wardle zeigte am 21., wie ein lokal geänderter Prozess
auf einem Mac Angreifern eure Eingaben und Zugangstokens sichtbar
macht — mit echten Berechtigungen auf eurem Rechner. Meta
brauchte 16 Stunden für den Hotfix.
Armageddon, aber echt (25:12) — erinnert ihr
euch an den Bruce-Willis-Film? AstroForge
schickt eine Sonde zu einem Asteroiden, und weil die Verbindung
nicht trägt, nimmt das Raumfahrzeug keine Befehle von der Erde
entgegen. Diese Woche: autonome Drohnen, autonome Agenten — und
jetzt autonomer Bergbau im Weltraum.
Abmoderation (29:21) — der rote Faden, und warum
er heute schwierig ist.
Bleibt neugierig. Bleibt menschlich.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.