Startseite
Podcasts
#digdeep - Neues aus der digitalen Welt Podcast
Gut gemeint, aber gefährlich - wird die Regulierung von KI zum Werkzeug für Zensur?

Gut gemeint, aber gefährlich - wird die Regulierung von KI zum Werkzeug für Zensur?

#digdeep - Neues aus der digitalen Welt vor 1 Woche

#digdeep - Neues aus der digitalen Welt

0:00

47:54

Podcast

#digdeep - Neues aus der digitalen Welt

163 Episoden

Alles zur Digitalisierung aus Wissenschaft und Wirtschaft.

Technologie Wirtschaft Nachrichten

Podcast aneignen

Sichere KI wollen die meisten - eine KI, die nicht
Falschinformationen verbreitet, sich an ethische Standards hält,
keine Anleitungen zum Suizid verbreitet und sich von Straftaten
fernhält. Aber was, wenn genau die Methoden, die KI sicher machen
sollen, das perfekte Werkzeug für Zensur sind? KI wird zum ersten
Kontaktpunkt für fast alles: für Kinder statt Google, für
Unternehmen, als Ersatz für den Arztbesuch, im politischen
Wahlkampf. Wer entscheidet, was diese Modelle sagen dürfen – und
was nicht –, entscheidet damit über den Informationsraum einer
ganzen Gesellschaft. Und diese Entscheidungen treffen heute
erstaunlich wenige Menschen: eine Handvoll Mitarbeiter der
KI-Anbieter aus den USA und China sowie die Staaten, die sie
regulieren. Was verschweigen uns die KI-Modelle, ohne dass uns dies
bewusst ist? Ein echtes Dilemma also, mit dem unsere beiden
Studiogäste auf der renommierten internationalen Konferenz für
Machine Learning ICML in Südkorea für großes Aufsehen gesorgt haben
- inklusive interessanter Reaktionen der chinesischen
Konferenzteilnehmer. Sarah Ball forscht an der LMU München zu AI
Safety und Alignment, Phil Hackemann ist Politikwissenschaftler.
Für ihr gemeinsames Paper „The Alignment Community is
Unintentionally Building a Censor's Toolkit" wurden sie auf der
ICML 2026 in Südkorea ausgezeichnet. Sie erklären uns, an welchen
drei Stellen ein Modell überhaupt gesteuert wird, warum Elon Musks
Grok zum Lehrstück für Manipulation wurde und wieso ein
chinesisches Open-Weights-Modell im eigenen Rechenzentrum kein
Souveränitätsgewinn ist. Und wir fragen nach, was passiert, wenn
Modelle anfangen, über sich selbst nachzudenken. Falls ihr wissen
wollt, welche Antwort Sarah und Phil auf das Problem des
zweischneidigen Schwertes der KI-Regulierung vorschlagen, dann hört
in diese spannende Folge von #digdeep rein. Und die Antwort ist
übrigens nicht "mehr Regulierung"... --- Das Paper findet ihr hier:
Paper-Website: https://s-ball-10.github.io/censors-toolkit/ Paper
(arXiv): https://arxiv.org/html/2608.12346