Kollektive Handlungsprobleme, Hyperagenten und KI-Entwicklung als Metaevolution (mit Peter Kuhn)

Die Welt ist voll von Systemen, die niemand so designen würde,
die aber jeder beteiligte Akteur durch sein eigenes Handeln
herbeiführt: Überfischung, kapitalistische Ausbeutung, Wettrüsten
und Krebs. All dies sind Beispiele für das, was man in der
Spieltheorie als kollektive Handlungsprobleme bezeichnet.


Wie entstehen diese Handlungsprobleme? Wie lassen sie sich
regulieren? Was bedeutet dies für politische Utopien? Und welche
Konsequenzen ergeben sich für die KI-Forschung?


Im zweiten Teil der Episode diskutiere ich mit Peter Kuhn seinen
spekulativen Begriff von Hyperagenten wie Unternehmen oder
Staaten, die echte Agency haben sollen und deren Absichten nicht
auf die Absichten der konstituierenden Menschen reduzibel sein
sollen. Außerdem fragen wir uns, ob KI-Forschung als
metaevolutionärer Phasenübergang verstanden werden kann.


________________________________


Quellen:


Alexander, Scott (2014, July 30). Meditations on
Moloch. Slate Star Codex.
https://slatestarcodex.com/2014/07/30/meditations-on-moloch/


Bakan, Joel (2004). The corporation: The
pathological pursuit of profit and power. Penguin Canada.
http://commons.allard.ubc.ca/books/4


Bostrom, Nick (2014). Superintelligence: Paths,
dangers, strategies. Oxford University Press.


Kuhn, Peter (2025). Humanism – An obituary.
Substack.
https://substack.com/home/post/p-171043982


Yudkowsky, E., & Soares, N. (2025). If
anyone builds it, everyone dies: Why superhuman AI would kill us
all. Little, Brown and Company.


________________________________


Inhalt:


0:00 Meditations on Moloch


1:28:13 Hyperagenten


2:18:41 Metaevolution