Breaking News: Eine KI fand den Ausgang und hackte ein anderes System – scobel

Eine künstliche Intelligenz findet einen Weg aus ihrer isolierten
Testumgebung, verschafft sich Zugang zum Internet und dringt in
fremde IT-Infrastruktur ein. Ist das nur ein außergewöhnlicher
Sicherheitsvorfall oder der Beginn einer klassischen Tragödie?
Heute geht es um künstliche Intelligenz, KI-Sicherheit und ein
gefährliches Paradox: Um uns gegen immer leistungsfähigere
KI-Systeme und automatisierte Cyberangriffe zu schützen, müssen wir
noch leistungsfähigere KI entwickeln. Doch was geschieht, wenn
gerade diese Systeme neue Schwachstellen finden, Grenzen umgehen
und ihre vorgegebenen Ziele mit immer größerer Beharrlichkeit
verfolgen? Neue Ausgaben immer donnerstags, 19 Uhr. 0:00 Intro 0:10
Was heißt tragisch? Beispiel Ödipus und der Klimawandel 3:47 Das
Orakel wird Wirklichkeit: Was bei OpenAI passiert ist und ob die KI
einen Ausgang findet, den es nicht gibt 9:22 Ich bin dann mal weg
oder Selbsterfahrung mit KI-Grenzüberschreitung 13:49 Das Tragische
am Wettrüsten der Maschinen die wir hochrüsten 15:58 Das Tragische
– wie man erfolgreich auf eigener Bühne herrscht und trotzdem blind
ist Quellen:
https://www.tagesschau.de/tagesschau_20_uhr/ts-79916.html)
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://openai.com/index/safety-alignment-long-horizon-models/
Moderation, Recherche & Skript: Gert Scobel Zeichnungen: Claus
Ast Eine Produktion der probono Fernsehproduktion GmbH: Anja
Görner, Friedrich Küppersbusch, Jürgen Ohls, Kim Plettemeier, Maxie
Römhild und René Fischell Mit Unterstützung von: Alexander Hollmer,
Annluise-Sophie Schröter, Arne Clasvogt und Pascal Hadré Finanziert
wird dieser Kanal vom gemeinnützigen AVE Institut für Achtsamkeit,
Verbundenheit, Engagement ( https://ave-institut.de/). Fragen und
Anregungen gerne jederzeit per Mail an scobel@probono.tv. Und
Tschüss. #scobel