Startseite
Podcasts
KI Espresso Podcast
KI-Sicherheit: Warum Forscher gehen und wer die Entwicklung stoppen kann

KI-Sicherheit: Warum Forscher gehen und wer die Entwicklung stoppen kann

KI Espresso vor 1 Monat

0:00

9:08

David Robinson hat OpenAI verlassen. Sein Ausstieg wirft die
Frage auf, wer gefährliche KI-Entwicklung tatsächlich stoppen
kann. Marc erklärt konkrete Kontrollfehler und neue
Sicherheitszusagen; Irene prüft, was davon im Wettbewerb zwischen
den USA, Europa und China durchsetzbar ist.

Wir unterscheiden persönliche Aussagen, Berichte der Entwickler
und externe Untersuchungen. Risikozahlen sind subjektive
Einschätzungen mit einem benannten Zeithorizont. Irenes Kritik am
europäischen Wirtschaftsmodell ist ihre politische Wertung; eine
Ursache für Mistrals Testergebnisse ist damit nicht bewiesen.

Welche Nachweise müsste ein KI-Labor vorlegen, bevor es nach
einem Sicherheitsvorfall weitertrainieren darf? Nennt das für
euch wichtigste Kriterium und begründet eure Wahl.

Quellen

David Robinson: I Quit OpenAI Because Its Culture Is Broken

WIRED interview with Jacob Coxon

Axios interview: Coxon equity

Mrinank Sharma: Why I Left Anthropic

OpenAI: Hugging Face incident and the road ahead

METR/Redwood independent Hugging Face investigation

Hugging Face: July security incident disclosure

OpenAI: An agent used DNS to reach an external chatbot

Anthropic: July disclosure of three cyber-evaluation
incidents

Anthropic: September alignment assessment of four incidents

Dario Amodei: We Must Pace the Frontier

White House Accord on Super Intelligence

OpenAI: Towards safety cases for frontier AI training

CAIS: Statement on AI Extinction Risk

ESPAI 2023: Thousands of AI Authors on the Future of AI

CAC: Interim measures for generative AI services

UK: Bletchley Declaration participation

UK: Seoul frontier safety commitments

Mistral: Medium 3.5 and Vibe remote agents

Mistral legal notice

AISI: Unsanctioned agent behaviour during cyber testing

Anthropic: Accenture embedded evaluation partnership

METR current public updates/index

Artificial Analysis: Medium 3.5 versus GPT-5.5 High

Artificial Analysis: Medium 3.5 versus Tencent Hy3

ECB: AI and the euro area economy