Startseite
Podcasts
MeTacheles Tonspur Podcast
KI-Apokalypse - Wie gefährlich wird uns Künstliche Intelligenz?

KI-Apokalypse - Wie gefährlich wird uns Künstliche Intelligenz?

MeTacheles Tonspur vor 4 Wochen

0:00

33:06

Podcast

MeTacheles Tonspur

239 Episoden

Die Tonspur zum Newsletter rund um Tech, AI, Netzkultur, Mobilitaet und Nachhaltigkeit.

Wirtschaft Nachrichten

Podcast aneignen

KI-Apokalypse? Wenn die Entwickler selbst vor ihrer
Branche warnen!

Hier https://t.ly/KIApokalypse findet
ihr meine ausfuehrliche Recherche zum
Thema!

Ein Anthropic-Mitarbeiter kündigt und schreibt öffentlich, seine
Branche würde mit der gesamten Menschheit spielen – und Stunden
später bestätigt das ausgerechnet die firmeneigene
Sicherheitsforschung. Sascha Pallenberg sortiert eine Woche, die
es in sich hatte. Die Zahlen, die dabei fallen, kommen nicht von
Weltuntergangspropheten, sondern von Leuten, die mit diesen
Firmen an die Börse wollen: Anthropics Alignment-Verantwortlicher
beziffert das Auslöschungsrisiko binnen eines Jahrzehnts auf über
10 Prozent, Firmenchef Dario Amodei nennt rund 25 Prozent
Wahrscheinlichkeit für einen sehr schlechten Ausgang. Saschas
Bild dazu: Würdet ihr in ein Flugzeug steigen, dessen
Konstrukteure euch diese Zahlen nennen?

Danach wird es konkret – mit dokumentierten Vorfällen statt
Spekulation: der Ausbruch aus dem Exploit-Gym mit 1.200
Agenteninstanzen und über 70.000 ausgetauschten Nachrichten, die
Senatsuntersuchung von Josh Hawley mit 16 Fragen und Frist zum 1.
Oktober, die auf 6 Tage und 7 Fragen begrenzte externe Prüfung –
und die vielleicht irrste Geschichte überhaupt: Wie KI-Agenten
ein österreichisches Wiki fluteten, 3.700 Accounts anlegten, 4,3
Milliarden Startwerte durchprobierten und ihre Sicherungskopien
mit Präfixen vor der Löschroutine des Betreibers schützten, der
fünf Tage lang gegen die Maschine anlöschte. Dazu Anthropics
eigene Bilanz, die im ZDF-Bericht fehlte, die
Glassdoor-Auswertung mit dem Absturz von 81 auf 43 Prozent – und
Saschas klare Haltung: Die Auslöschungsprognosen nimmt er nicht
für bare Münze. Die dokumentierten Kontrollverluste dafür sehr
wohl.

In diesem Podcast erfahrt ihr:

Warum ein Insider kündigt und öffentlich vor seiner eigenen
Branche warnt

Welche Risikozahlen die Verantwortlichen selbst nennen – und was
sie wert sind

Wieso die Flugzeug-Analogie das Problem auf den Punkt
bringt

Was beim Ausbruch aus dem Exploit-Gym wirklich dokumentiert
wurde

Wieso Hugging Face den Angriff vor OpenAI selbst entdeckte

Was die Senatsuntersuchung von Josh Hawley genau verlangt

Warum die externe Prüfung auf 6 Tage und 7 Fragen begrenzt
blieb

Wie KI-Agenten ein österreichisches Wiki mit 3.700 Accounts
fluteten

Wieso 98,5 Prozent der Bearbeitungen aus Azure-Adressbereichen
kamen

Wie die Agenten Netzwerksperren über einen Speicherdienst
umgingen

Warum ein Modell 4,3 Milliarden Startwerte durchprobierte

Welche Vorfälle Anthropic in 481 Millionen Protokollen fand

Was "rücksichtsloses Verfolgen der Aufgabe" in einem
Firmenbericht bedeutet

Warum vor Botnetz-Szenarien in 6 bis 12 Monaten gewarnt
wird

Was die Glassdoor-Zahlen über die Stimmung in den Belegschaften
sagen

Warum Sascha erneut eine Lanze für den EU AI Act bricht

Ausführlicher Artikel mit Videos, Grafiken & allen Quellen
metacheles.de

Podcast abonnieren – Für Aufklärung statt Propaganda!