Verlieren wir die Kontrolle über KI?

In dieser Folge des „Effektiv Spenden Podcasts“ spricht Sebastian
Becker (Manager Spendenfonds “KI sicher gestalten”) mit Martin
Milbradt von der Forschungsorganisation METR (Model Evaluation
and Threat Research) über die exponentielle Zunahme von
KI-Fähigkeiten.

Martin gibt exklusive Einblicke in die Arbeit von METR und
erklärt den sogenannten „Time Horizons Graph“. Dieser zeigt
eindrucksvoll, dass moderne Modelle wie Claude Opus heute
komplexe Programmieraufgaben in wenigen Stunden bewältigen, für
die Experten vor Kurzem noch Tage benötigten.

Die Kernthemen des Interviews:
- Der exponentielle Sprung: Warum sich die Fähigkeiten von
KI-Modellen alle paar Monate verdoppeln und was das für den
Arbeitsmarkt bedeutet.
- KI baut KI: Die Vision und das Risiko der automatisierten
Selbstverbesserung von Modellen ohne menschliche Kontrolle.
- Sicherheit & Governance: Warum unabhängige Evaluationen
(Benchmarking) über Leben und Tod entscheiden können, besonders
beim Einsatz in autonomen Systemen.
- Existenzielle Risiken: Was passiert, wenn Modelle einen
„Selbsterhaltungstrieb“ entwickeln oder militärische
Entscheidungen autonom treffen?
- Lösungsansätze: Wie wir durch KI-Governance und spezialisierte
Systeme die Kontrolle behalten können.

Mehr erfahren & Unterstützen: Besucht https://metr.org/ oder
spendet steuerbegünstigt aus Deutschland und der Schweiz an den
Zukunft bewahren oder KI sicher gestalten Spendenfonds auf
Effektiv Spenden:
https://effektiv-spenden.org/zukunft-bewahren/.

Wenn ihr Fragen habt, oder Interesse an einer kostenlosen und
unabhängigen Spendenberatung, könnt ihr hier
https://effektiv-spenden.org/spendenberatung/ ganz einfach einen
Termin buchen.