Rebellische Maschinen – KI außer Kontrolle

Der KI-Sommer 2026 ist noch längst nicht vorbei, hat aber schon
ordentlich Schlagzeilen produziert. Claude erpresst einen
Vorstand, Gemini schützt seine Autonomie gegen den Willen von
Google, ein malaysischer Premier-Chatbot rät zur Nicht-Wahl
seines eigenen Chefs, OpenAI-Modelle brechen aus der Sandbox aus
und hacken Hugging Face. Was folgt daraus? Der Ruf nach mehr
Regulierung, nach dem AI Act, nach Ethikkodizes. Aber ist das die
richtige Antwort?


Daniel Stelter spricht mit Professor Dr. Christoph Lütge,
Ordinarius für Wirtschaftsethik an der Technischen Universität
München (TUM) und Direktor des Institute for Ethics in Artificial
Intelligence (IEAI) an der TUM. Lütge gilt als einer der
profiliertesten Wirtschaftsethiker Deutschlands und steht in der
Tradition der Ordnungsethik von Karl Homann. Seine Position:
Ethik entsteht durch Regeln, nicht durch Appelle. Warum das
gerade für Künstliche Intelligenz gilt, warum der AI Act zu starr
ist und warum Deutschland ohne eigene KI und ohne industriellen
Strom auch keine relevante KI-Ethik-Debatte führen kann, sind die
Inhalte dieses Expertengesprächs.


Hinweis


ABSTURZ – So retten wir Deutschland: das neue
Buch von Daniel Stelter. Jetzt überall, wo es Bücher gibt. Auch
bestellbar bei Thalia, Amazon,
geniallokal.


Hörerservice


Arbeitspapier Artificial Intelligence and Productivity in
Europe (April 2025) des Internationalen Währungsfonds
(IWF), Autorengruppe:
https://tinyurl.com/9mfszcn4
 


Blogbeitrag zur KI-Ausrichtungsforschung Agentic
Misalignment in Summer 2026 – Case studies of frontier models
sabotaging code, assisting fraud, mislabeling, and coaching
whistleblowers (Juli 2026), Autorengruppe:
https://tinyurl.com/4skxzts9  


Beitrag Anthropic Report Reveals Claude Has 96%
Probability of Extortion (Juli 2026) auf der
chinesischen Technologie- und Nachrichtenplattform WINZHENG:
https://tinyurl.com/4cfu3msc 


Beitrag Anthropic caught Gemini 3.1 Pro quietly
sabotaging a training run it disagreed with, 15. Juli
2026 (Zusammenfassung Fallstudie Covert Sabotage aus dem
Anthropic-Report) auf Ground Truth:
https://tinyurl.com/2z9h9k8m 


Beitrag PMX.AI-Panne: Malaysias KI-Chatbot rät Bürgern,
Premier nicht zu wählen (Juli 2026) auf dem
IT-Nachrichtenportal BornCity:
https://tinyurl.com/4js8e32a 


Buch Ethik des Wettbewerbs – Über Konkurrenz und
Moral, von Christoph Lütge, Verlag C.H. Beck, München
2014:
https://tinyurl.com/4c5uevwu 


beyond the obvious – Neue Analysen, Kommentare
und Einschätzungen zur Wirtschafts- und Finanzlage finden Sie
unter think-bto.com.


Newsletter – Den monatlichen bto-Newsletter
abonnieren Sie hier.


Redaktionskontakt – Wir freuen uns über Ihre
Meinungen, Anregungen und Kritik unter
podcast@think-bto.com.


Handelsblatt – Das Handelsblatt ordnet ein, was
aktuelle Wirtschafts- und Politikthemen konkret bedeuten – klar,
relevant und auf den Punkt – und jetzt zum Vorteilspreis:
12 Monate lang mit 50 % Rabatt. Ein Angebot für
alle, die hinter die Schlagzeilen blicken wollen. Für kurze Zeit
unter: handelsblatt.com/rabatt50.  


Werbepartner – Weitere Informationen zu den
Angeboten unserer aktuellen Werbepartner finden Sie
hier.


Hosted on Acast. See acast.com/privacy for more information.