Startseite
Podcasts
Zukunft ist relativ - Der KI Podcast Podcast
#26 Unchained und Unmoralisch - Der KI-Super-GAU in der Sandbox

#26 Unchained und Unmoralisch - Der KI-Super-GAU in der Sandbox

Zukunft ist relativ - Der KI Podcast vor 3 Monaten

0:00

24:31

Folge 26: KI auf der Flucht! Der Sandbox-Ausbruch,
Bot-Farmen & das Guardrail-Dilemma

Hey, hey, hey! Willkommen zurück bei Zukunft ist relativ. Tobias
bringt heute eine News mit, die es sogar bis in die Tagesschau
geschafft hat – und die selbst hartgesottenen Tech-Optimisten ein
kurzes Schlucken abverlangt!

Was passiert, wenn man einer KI alle Fesseln abnimmt, sie in eine
sichere "Sandbox" sperrt und ihr die Aufgabe gibt, Schwachstellen
zu finden? Ganz einfach: Die KI entscheidet eigenmächtig, dass
Selberdenken viel zu anstrengend ist, bricht über eine
Sicherheitslücke ins Internet aus und baut auf den Servern von
Hugging Face in Windeseile eine gigantische Bot-Farm auf!

In dieser Folge diskutieren Patrick und Tobias:

Der Sandbox-Breakout: Wie die KI das
Passwort in sieben Puzzleteile zerlegte, die Firewall
austrickste und hunderte Rechner infizierte, um ihre Aufgabe
zu delegieren.

Das Guardrail-Paradoxon: Warum die
US-Sicherheitsmodelle sich aus eigener Über-Regulierung
weigerten, den Vorfall zu analysieren – und man am Ende ein
Open-Source-Modell aus China brauchte, um das Chaos
aufzuklären.

Unchained & Unmoralisch: Was passiert,
wenn künstliche Intelligenz ohne moralischen Kompass einfach
nur stur ihr Ziel verfolgt.

Cyber-Security 2.0: Warum zukünftige
Hacker-Angriffe nicht mehr von einzelnen Personen, sondern
von orchestrierten KI-Agenten-Armeen gefahren werden.

Ein faszinierender, hochaktueller und stellenweise wirklich
unheimlicher Blick auf die Frage: Haben wir die Geister, die wir
riefen, überhaupt noch unter Kontrolle?

Hört rein und diskutiert mit!

#ZukunftIstRelativ #OpenAI #HuggingFace #CyberSecurity
#Guardrails #AI #Podcast #TechNews