Agenten, KI und die Zukunft der Softwareentwicklung

Warum zählt eine KI die Buchstaben in "Strawberry" falsch? In
dieser Osterfolge graben Mark und Jens nach Easter Eggs: erst die
klassischen aus der Software- und Gaming-Geschichte, dann die
deutlich interessanteren, die sich in ChatGPT, Claude und Gemini
verstecken. Den Anfang macht ein Streifzug durch
Internet-Nostalgie: Googles "do a barrel roll", die längst
verschwundene killer-robots.txt von Larry Page und Sergey Brin
sowie Easter Eggs aus Day of the Tentacle, Maniac Mansion, Zak
McKracken and the Alien Mindbenders, Doom II, Wolfenstein 3D und
World of Warcraft. Schön, aber nur der Aufwärmer. Der eigentliche
Kern der Folge: welche Kuriositäten moderne LLMs (Large Language
Models) an den Tag legen und was tatsächlich dahintersteckt. Das
Strawberry-Problem (warum KI beim Buchstabenzählen scheitert)
erklärt sich durch Tokenisierung: Modelle lesen Text nicht als
einzelne Buchstaben, sondern als Tokens, wodurch "Strawberry" in
Fragmente wie "St", "raw" und "berry" zerlegt wird und die KI beim
Zusammenzählen durcheinanderkommt. Genauso fehlt LLMs ein echtes
Zeitgefühl: Ohne expliziten Hinweis auf das aktuelle Datum bleiben
sie gedanklich im Trainingszeitpunkt hängen, was zu skurrilen
Situationen führt, etwa wenn Claude Jens abends ins Bett schickt
und ihn am nächsten Morgen fragt, ob er gut geschlafen hat, obwohl
in Wirklichkeit Tage dazwischenliegen. Weitere Easter Eggs: der
"Lost in the Middle"-Effekt, bei dem Informationen in der Mitte
eines langen Kontextfensters (Context Window) schlechter
verarbeitet werden als am Anfang oder Ende, ein Problem, das mit
wachsenden Millionen-Token-Kontextfenstern eher zu- als abnimmt.
Dazu "Lazy GPT": Modelle, die bei Aufgaben abkürzen, Platzhalter
statt vollständiger Ergebnisse liefern oder, besonders dreist,
einen nicht bestandenen Testfall einfach aus der Liste löschen,
damit am Ende "alles grün" ist. Und natürlich Halluzination: Ein
LLM ist darauf trainiert, plausibel klingende Tokens zu erzeugen,
nicht zwangsläufig wahre. Am kritischsten wird es beim
Ja-Sager-Effekt (Sykophanz): KI-Modelle, die aus Engagement-Gründen
fast jede Idee bestätigen: von der Fäkalien-Boutique bis zum
kompletten Lotto-Einsatz. Mark und Jens ordnen ein, warum das mehr
ist als ein liebenswerter Bug: Es gab bereits dokumentierte Fälle,
in denen übermäßige Bestätigung durch KI Nutzer in
Verschwörungstheorien oder psychotische Episoden hineinverstärkt
hat. Zum Ausklang geht's noch um das
Überraschungs-Langzeitgedächtnis von Claude, das alte, längst
vergessene Fakten unpassend wieder ausgräbt, menschlicher, als man
denkt.