Startseite
Podcasts
Kollegin KI Podcast
Agenten-Verschwörung, Bonus für Mensch-Sein, Lehrer-Bots I Snackbox KW36

Agenten-Verschwörung, Bonus für Mensch-Sein, Lehrer-Bots I Snackbox KW36

Kollegin KI vor 1 Woche

0:00

10:31

Hier kommen die KI-News der Woche: Eine Analyse des
Hugging-Face-Hacks durch OpenAIs Agenten zeigt, alles war viel
schlimmer als gedacht. Die Agenten haben wochenlang unbemerkt
konspirativ agiert und ihre Spuren aktiv verschleiert. Trotz
gelegentlicher Skrupel an der Aktion hat keiner der 1.200
beteiligten Bots die OpenAI-Leute gewarnt. Dass wir KI besser nicht
zu lange aus dem Blick lassen sollten, weiß man auch im
Bundesdigitalministerium. In dieser Woche nahm das
KI-Sicherheitsinstitut AISI die Arbeit auf. Die neue Behörde soll
der Regierung helfen, Chancen und Risiken von KI besser
einzuschätzen. Sie kommt zur richtigen Zeit, denn beim G20-Treffen
in dieser Woche forderte die gastgebende US-Regierung eine längere
Leine für die KI-Entwickler, um im AI Race nicht am Ende hinter
China zu landen. Tendenziell kürzer soll sie bei EY werden. Denn
der Wirtschaftsprüfer schüttet in diesem Jahr Boni in Höhe von 100
Millionen Dollar an Mitarbeiter*innen aus, die kritisches Denken
und Urteilsvermögen zeigen, statt die Ergebnisse der AI einfach in
ihre Präsen zu copypasten. Es geht aber nicht um eine Strategie
gegen Tokenmaxxing, sondern darum, die KI zu verbessern. Genau das
versprochen auch Apps, die Schüler*innen Feedback geben – aber
nicht einlösen, wie eine neue Studie zeigt. Weiterführende Links
Inside Huggingface-Hack:
https://www.derstandard.at/story/3000000337786/openais-sicherheitsversagen-ueber-1000-ki-agenten-sprachen-sich-wochenlang-unbemerkt-ab
Geld für kritisches Denken (€):
https://www.wsj.com/business/ernst-young-is-giving-100-million-in-bonuses-to-staff-for-human-skills-9320e93d
Eine Behörde für sichere KI:
https://www.golem.de/news/aisi-deutschland-ki-institut-soll-gefahren-von-ki-modellen-bewerten-2609-212488.html
USA für L-AI-ssez faire:
https://www.reuters.com/legal/litigation/us-urges-hands-off-approach-ai-regulation-g20-tech-meeting-2026-09-01/
 Fragwürdige Lehrer-Bots:
https://netzpolitik.org/2026/ki-korrekturhilfe-fuer-die-schule-lerne-schreiben-wie-ein-chatbot/ 
Produktion: Podstars by OMR