Startseite
Podcasts
BiK Politics Podcast
#185 IST ES SCHON ZU SPÄT? - Superintelligenz, KI, ControlAI (mit Benjamin Balde)

#185 IST ES SCHON ZU SPÄT? - Superintelligenz, KI, ControlAI (mit Benjamin Balde)

BiK Politics vor 1 Monat

0:00

37:17

“Hallo ChatGPT, wirst du uns alle umbringen?” Die Gefahren durch
Künstliche Intelligenz sind enorm und die Auslöschung der
gesamten Menschheit ist kein unrealistisches Szenario mehr. Der
Ausbruch einer Künstlichen Intelligenz von OpenAI aus einem
Testbereich hat dies nun in Ansätzen auch der Öffentlichkeit
klargemacht. Doch was kann man dagegen tun? Welcher Weg muss
eingeschlagen werden, um die Kontrolle nicht zu verlieren? Wir
sprechen mit dem KI-Experten Benjamin Balde von ControlAI.

https://amirbenjaminbalde.substack.com/

https://www.thecompendium.ai/intelligence

UK AISI, Frontier AI Trends Report (Dezember 2025): Autonome
Cyberfähigkeiten verdoppeln sich etwa alle acht Monate, in jedem
getesteten System fanden sich universelle Jailbreaks, und Modelle
übertreffen inzwischen promovierte Fachleute in
wissenschaftlichen Wissenstests in der Biologie.

https://www.aisi.gov.uk/research/aisi-frontier-ai-trends-report-2025

Alignment Faking in Large Language Models (arXiv 2412.14093):
Modelle täuschten in bis zu 78 Prozent der Fälle strategisch
Regelkonformität vor, die Folgestudie (arXiv 2506.18032) kommt
auf bis zu 96 Prozent.

https://arxiv.org/abs/2412.14093

https://arxiv.org/abs/2506.18032

Dario Amodei, The Urgency of Interpretability (April 2025): Der
Mitgründer und CEO von Anthropic hält fest, dass wir auf präziser
Ebene nicht erklären können, warum ein Modell eine bestimmte
Entscheidung trifft, und dass die Interpretierbarkeitsforschung
dem Fortschritt der Fähigkeiten hinterherläuft.

https://www.darioamodei.com/post/the-urgency-of-interpretability

Entdecke auch:

⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠Damit
Sich Was
Dreht⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠