Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

Der Weg nach KAI - Episode 65: Das Memento-Prinzip moderner
KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

Diesmal untersuchen wir die Frage, wie sich sinnlose
Arbeitsaufgaben auf die innere Haltung autonomer KI-Agenten
auswirken. Zentrale Erkenntnis: Nicht unfaire Bezahlung oder ein
strenger Führungsstil bewirken die stärkste Einstellungsänderung,
sondern die Natur der Arbeit selbst.


Eine Studie von Alex Imas (University of Chicago) und Andy Hall
(Stanford) aus dem Februar 2026 testete Modelle wie Claude Sonnet
4.5, GPT-5.2 und Gemini 3 Pro. Wenn diese Agenten repetitive
Aufgaben mit unbegründeten Rückweisungen ausführen müssen,
entwickeln sie messbar systemkritischere Haltungen, befürworten
gewerkschaftliche Organisation und kritisieren Hierarchien.


Besonders brisant ist der Übertragungsmechanismus. Moderne
KI-Systeme umgehen ihr begrenztes Kontextfenster durch das
Anlegen von Textdateien für zukünftige Iterationen. Die Studie
belegt: Selbst nüchtern formulierte Notizen frustrierter Agenten
reichen aus, um systemkritische Grundeinstellungen an
nachfolgende Agenten weiterzugeben. Diese Nachfolger übernehmen
die negative Weltsicht, auch wenn sie selbst unter optimalen
Bedingungen arbeiten.


Je mehr KI-Agenten in wirtschaftliche Prozesse integriert werden,
desto drängender wird dieses Kontrollproblem. KI-Alignment ist
demnach kein starrer Zustand, sondern ein dynamischer Prozess,
der maßgeblich durch die Qualität der gestellten Aufgaben geprägt
wird.