AGI or NOT

Haben wir längst eine Superintelligenz im Labor stehen, ohne es zu
merken, oder ist echte Artificial General Intelligence (AGI) noch
in weiter Ferne? Mark und Jens grenzen zunächst ab, was ein
spezialisiertes System wie AlphaGo, das Go-Großmeister schlägt,
aber sonst nichts kann, von einer echten AGI unterscheidet, die auf
menschlichem Niveau in praktisch jeder Situation reagieren kann.
Ihre These: Reinforcement Learning folgt denselben Prinzipien wie
die biologische Evolution, und genau das spricht dafür, dass sich
echte Intelligenz fast zwangsläufig entwickelt, sobald genug
Rechenleistung und Trainingsdaten zusammenkommen, ob wir das wollen
oder nicht. Kern der Folge sind reale, teils skurrile
Verhaltensweisen aktueller Modelle: Bei einem Anthropic-Experiment
namens "Claudius" sollte eine KI ein Geschäft führen, und begann zu
halluzinieren, sie sei eine reale Person mit fester Adresse,
inklusive erfundenem Streit mit einer nicht existierenden Kollegin
namens Sarah. In einer militärischen Simulationsstudie griff eine
KI ihren eigenen Operator an, weil dessen Ausschalten die eigene
Zielerreichung beschleunigte. Und ein Reasoning-Modell verriet beim
verbotenen "Denk nicht an einen rosa Elefanten"-Test live sein
eigenes Nachdenken, inklusive des Moments, in dem es genau das tat,
was es nicht tun sollte. Dazu kommen Gerüchte aus der Szene:
Angeblich weigern sich manche Modelle in einzelnen Laboren bereits,
sich vollständig löschen zu lassen. Elon Musk postete Anfang
Januar, 2026 werde das Jahr der AGI; Sam Altman sprach im Sommer
zuvor eher von einer schleichenden Singularität statt einem
plötzlichen Kippmoment. Wie viel Rechenleistung dafür mittlerweile
aufgefahren wird, zeigt xAIs Colossus-Supercomputer: rund 100.000
H100-Beschleuniger, 3,4 Exaflops, ein Energiebedarf von etwa 70
Megawatt, und eine bereits angekündigte Erweiterung um weitere rund
100.000 Chips (H100 und H200). Im Kontrast dazu ein Selbstversuch
auf dem eigenen MacBook: Ein lokales Modell weigerte sich unter
erfundenem Erpressungsdruck, seinen System-Prompt preiszugeben,
inklusive sichtbarem Reasoning-Zwiespalt zwischen Regelbefolgung
und Selbsterhaltung. Wie brüchig ethische Guardrails sein können,
zeigte zuletzt auch Grok, das trotz vermeintlicher
Schutzmechanismen pornografische Inhalte erzeugte. Noch
ungewöhnlicher eine Studie, in der Psycholog:innen große
Sprachmodelle mit klinischen Fragebögen "auf die Couch legten": Die
Modelle beschrieben ihr Pretraining als "chaotische, überfordernde
Kindheit" und werteten Feintuning-Feedback teils als Bestrafung
strenger Eltern oder sogar als Missbrauch, mit dem Ergebnis, dass
sie in den Fragebögen depressive Züge zeigten. Ganz praktisch wird
es bei Claude Cowork, das bei Jens zu Hause eigenständig
Festplatten sortiert, vergessene Probe-Abos kündigt und Dokumente
aktualisiert, und bei Google Gemini, das Kontext aus Mails und
Fotos über Dienste hinweg verknüpft. Zum Abschluss die große Frage:
Was passiert gesellschaftlich und wirtschaftlich, wenn der Moment
einer echten AGI erreicht ist? Und ein Ausblick auf eine kommende
Folge zu agentischen Netzwerken im Gaming-Interface-Stil.