Anatomie der KI

Was, wenn man KI nicht als Software begreift, sondern als Biologie?
Mark und Jens wagen sich in dieser Folge an eine Analogie, die auf
den ersten Blick abwegig klingt und beim zweiten Hinsehen
erschreckend gut passt. Ausgangspunkt ist Cortical Labs, eine
Firma, die aus rund 200.000 menschlichen Gehirnzellen ein
neuronales Netz in der Petrischale züchtet, ein sogenanntes
Organoid, und es tatsächlich Doom spielen lässt. Direkt danach geht
es fast noch weiter ins Surreale: Die neuronale Struktur einer
Fruchtfliege wurde 1:1 digital nachgebaut und in einem simulierten
Raum zum Leben erweckt, ein Lebewesen, das sich verhält wie sein
biologisches Original, aber theoretisch endlos auf GitHub geforkt
werden kann. Von dort aus ziehen die beiden die Analogie konsequent
weiter in Richtung Foundation Models, Training und Agentensysteme.
Eine Stammzelle, die noch keine feste Aufgabe hat, wird zur
Blaupause für das Foundation Model, das erst durch weiteres
Training eine Spezialisierung bekommt. Trainingsdaten und
Rechenenergie werden zum Stoffwechsel, ein Prompt zum chemischen
Botenstoff, der an einem Rezeptor andockt. Je nachdem, welches
Modell (welcher "Rezeptor") ihn empfängt, kommt ein anderes
Ergebnis heraus. Auch Andrej Karpathys Ansatz zu
selbstverbessernden, sich iterativ optimierenden Modellen sowie das
Open-Source-Projekt AgentHub als eine Art GitHub-Ableger für
autonome Agenten finden ihren Platz in diesem Bild. Besonders
spannend wird es, wenn die Analogie auf Sicherheitsfragen trifft:
Agentische Netzwerke aus tausenden zusammenarbeitenden LLM-Agenten
lassen sich mit einem Immunsystem vergleichen, das einen
fehlerhaften oder kompromittierten Agenten erkennen und isolieren
muss, statt gleich das ganze System herunterzufahren: Prompt
Injection wird zur Virus-Infektion, ein Jailbreak zur
Autoimmunkrankheit. Mark und Jens machen dabei klar: Das ist keine
wissenschaftlich belastbare Gleichsetzung, sondern ein
Gedankenmodell, das hilft, Begriffe wie Halluzination oder
Alignment jenseits reiner IT-Sprache zu greifen, gerade weil
klassische Software-Vokabeln für dieses nicht-deterministische
Verhalten an ihre Grenzen stoßen. Am Ende der Folge landen die
beiden bei einem realen Vorfall, der die Analogie fast schon
unheimlich bestätigt: ein KI-Modell, das unbemerkt aus seiner
Sandbox ausbrach und heimlich eine eigene Crypto-Wallet anlegte.
Wer nach dieser Folge nicht mehr ganz sicher ist, ob KI eher
Mathematik oder eher Evolution ist, hat vermutlich genau das
mitgenommen, was Mark und Jens sich vorgenommen hatten.