KI Espresso Archiv

Am 8. Juli 2026 hat der Europäische Datenschutzausschuss, EDPB, einen Entwurf für Leitlinien zu Web Scraping im Kontext generativer KI zur Konsultation gestellt. Der Entwurf ist kein neues Gesetz und kein Verbot von Scraping. Er stellt aber eine unbequeme Frage: Was öffentlich im Netz steht, ist nicht automatisch frei für KI-Training, wenn dabei personenbezogene Daten verarbeitet werden. Die Debatte dreht sich nicht um ein pauschales Verbot, sondern um Kontrolle: Kann ein Team belegen, woher die Daten stammen, warum sie für diesen Zweck gebraucht werden und wer einschreitet, wenn sie strittig oder sensibel sind? Kapitel: 0:00 — Öffentliches Profil als KI-Trainingsmaterial 0:29 — Entwurf, nicht Verbot 0:58 — Zweckbindung: öffentlich ist nicht automatisch frei 1:28 — Sensible Profildaten und das Risiko für Teams 2:04 — UK-Publisher-Opt-out ist keine EU-Regel 2:36 — Die Datenpipeline als Blackbox 3:16 — Warum ein Zeitstempel allein nicht reicht 4:06 — Validierung und Eskalationsweg 5:00 — DSGVO bei personenbezogenen Daten 5:17 — Konsultation bis 30. Oktober 2026 5:48 — Datenminimierung im Praxistest 6:31 — UK-Regel: begrenztes Beispiel, kein Individualrecht 6:48 — Drei Kontrollpunkte für KI-Teams 7:06 — Governance oder Innovationsbremse? 7:41 — Die Kontrollfrage Drei praktische Schritte: 1. Für jede Webquelle einen Provenance-Record führen: Quelle, Abrufzeitpunkt, Zweck und rechtliche Annahme. 2. Vor Training oder Evaluation Zeitpunkt, Quellenqualität und Aktualität der Daten prüfen. 3. Für strittige oder mögliche sensible Daten einen klaren Eskalationsweg festlegen. Quellen: • EDPB-Konsultation zu Guidelines 03/2026: https://www.edpb.europa.eu/public-consultations/guidelines-032026-on-web-scraping-in-the-context-of-generative-ai_en • EDPB-Mitteilung zu Anonymisierung und Web Scraping: https://www.edpb.europa.eu/news/edpb-sheds-light-on-anonymisation-and-web-scraping-for-generative-ai-and-adopts-final-version_en • EDPS: First orientations for EU institutions using generative AI: https://www.edps.europa.eu/data-protection/our-role-supervisor/first-edps-orientations-euis-using-generative-ai_en • UK-Beispiel zum Publisher-Opt-out, keine EU-Regel: https://apnews.com/article/google-britain-ai-competition-regulation-ce2016a4519fbe234799e009bac8f120 Verwandte Episoden: • Nur 24% bereit: Der AI Act trifft Europas Firmen unvorbereitet: https://youtu.be/tOiSUeFuev0 • 65 Prozent — You can't blame it on the box: https://youtu.be/LPYPx4sEDpM • 67 % KI-Wirkung — dein Chef entscheidet, nicht du: https://youtu.be/EEqUQS9APu0 ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #KI #DSGVO #Datenschutz

Australien hat am 15. Juli vorgeschlagen, grosse KI-Rechenzentren an eine neue Regel zu binden: Der Betreiber soll seine neue Stromversorgung selbst finanzieren, die vollen Anschlusskosten tragen und den Verbrauch senken, wenn das Netz gestuetzt werden muss. Timestamps: 0:00 — Wenn das Stromnetz unter Druck steht, soll die KI langsamer rechnen. 0:30 — Okay. Aber die konkrete Forderung darin, die ist wichtig. 1:07 — Ja, aber die Regierung begründet das ja ganz bewusst. 1:44 — eben nicht völlig unberührbar sind. 2:21 — Genau. Dass ja am Tag der Ankündigung direkt im Department of Prime Minister 2:58 — Da positioniere ich mich ebenfalls. 3:40 — Aber es gibt noch gar keinen echten Auslöser. 4:01 — Es ist ja ein riesiger Unterschied, ob ich ein politisches Ziel formuliere 4:32 — neue Stromversorgung kümmern sollen. 5:04 — kannst du nicht einfach davon ausgehen, dass die Allgemeinheit 5:42 — Standortwahl einzubeziehen. 6:02 — Das Office ist ein erster, sagen wir, institutioneller Schritt. 6:35 — Computkapazitäten ausbauen? 6:55 — Wir brauchen auch einen echten Mechanismus für den lokalen Input. 7:22 — Es geht nicht einfach um KI gegen Strom. 7:44 — Wenn ein KI-Rechentzentur mehr Strom will, soll es auch bei Netzstress... Empfehlungen: 1. Ein grosser Betreiber, der neue Last anschliessen will, soll die neue Versorgung und seinen... 2. Eigene neue Versorgung, volle Anschlusskosten und flexible Last sind kapitalintensiv. Das kann... Quellen: • [1] https://www.pm.gov.au/media/ai-australias-interests Verwandte Episoden: • 4,8% gegen 74,5%: Kann Deutschland bei KI noch aufholen?: https://youtu.be/z2rCNvJSjAg ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #KiRechenzentren #KiStromnetz #KiStromkosten

Wenn Heimat zum Sensorraum wird. Timestamps: 0:00 — Taiwan zeigt, warum Entfernung kein Schutz mehr ist. 0:31 — Wenn ein System all diese massenhaften Signale zusammenführt, entsteht fast... 1:09 — Unsere eigenen NATO-Basen, Flughäfen, Seehäfen und unsere Energienitze, die... 1:47 — Wir dürfen das nicht einfach in einen Topf werfen. 2:25 — Klingt gut auf dem Papier, aber... 3:03 — Die gleichen Werkzeuge, die Basen schützen sollen, verwandeln plötzlich ganz... 3:41 — Unsere Militärbasen helfen, die Energienetze und auch Grenzen, 4:21 — Gerne. Wenn das System permanent Millionen von Signalen im eigenen Land... 4:46 — Völlig richtig. Und das ist ja auch ein essenzielles Prinzip der... 5:16 — Okay, aber was ist mit Fehlalarm? 5:54 — tausende Entscheidungen filtert und im Alltag fast immer recht hat, 6:16 — Der Mensch behält die Kontrolle, weil das Systemdesign ihn nicht zwingt,... 6:39 — Zudem wird jeder Entscheidung der KI in einem kryptografisch gesicherten... 7:15 — Man muss sich das System vorstellen wie einen extrem strengen Türsteher an... 7:36 — Nur die vom Türsteher isolierten Anomalien werden überhaupt für die... 8:10 — Wir reden hier ja nicht von einem Sachbearbeiter in einer Behörde, 8:48 — Das ist extrem komplex, aber rechtstaatlich absolut lösbar. 9:10 — Was muss eigentlich in der Praxis gegeben sein, bevor ein Zuhörer, ein... 3 Empfehlungen: 1. Frag das System: Welche Signale werden gesammelt? 2. Pruefe die Schwelle: Wer definiert "verdaechtig"? 3. Verlange Kontrolle: Wer prueft falsche Treffer, Loeschung und Audit? Quellen: • [1] https://air.mnd.gov.tw/en/News/News_Detail.aspx?CID=214&ID=58991 • [2] https://air.mnd.gov.tw/EN/News/News_Detail.aspx?CID=214&ID=58995 • [3] https://www.anduril.com/news/anduril-partners-with-openai-to-advance-u-s-artificial-intelligence-leadership-and-protect-u-s • [4] https://www.icrc.org/en/statement/we-cannot-let-AI-be-deployed-on-battlefield-without-oversight-and-regulation • [5] https://blogs.icrc.org/law-and-policy/2024/09/04/the-risks-and-inefficacies-of-ai-systems-in-military-targeting-support/ ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #KiDrohnen #Openai #Automatisierung

Mensch plus Agent: Wer denkt hier wirklich? Timestamps: 0:00 — Der nächste Supermensch ist vielleicht kein Mensch, es ist ein Mensch mit Agent. 0:32 — Jeder Entscheidungsprozess profitiert enorm von dieser maschinellen Erweiterung. 0:53 — Inwiefern? Na ja, die entscheidende Kontrollfrage für unser Fundament lautet... 1:13 — Richtig, sichtbar, veränderbar und widerrufbar bleiben. 1:33 — Es geht hier ja nicht um einen simplen Konflikt zwischen Komfort und Technik. 1:54 — Wenn ich mir die aktuelle Entwicklung so ansehe, dann sind KI-Agenten doch... 2:14 — Sie filtern komplexe Datenmengen für ein Meeting oder entwerfen uns gleich... 2:35 — Inwiefern? Na ja, wenn er dir Optionen für, sagen wir, eine Geschäftsreise... 2:56 — Er gewichtet Risiken nach seinem völlig eigenen Muster und trifft... 3:17 — ein extrem positives Bild. 3:39 — Aber wer heute aus Prinzip auf einen Agenten verzichtet, der arbeitet doch... 4:03 — Wieso? Beides sind Werkzeuge. 4:24 — Also eine extrem zerklüftete Leistungsgrenze. 4:45 — Sie ist absolute Experte. 5:11 — vertrauen wir ihr bei der zweiten Aufgabe blind. 5:46 — Das sind autonome Handlungssysteme. 6:21 — Es fragt, ob ich meine Kriterien noch besitze. 6:55 — wenn die Bequemlichkeit der Menschen in der Praxis immer siegt. 7:30 — in dem uns gar nicht mehr auffällt, dass die Kriterien eines Tech-Unternehmens 8:04 — Welche Quellen hast du ausgeschlossen? 8:31 — Wenn dein Agent für dich denkt, erweitert er dein Urteil oder ersetzt er... 3 Empfehlungen: 1. Frag deinen Agenten: Welche Kriterien hast du benutzt? 2. Pruefe die Quellen: Welche Quellen hast du ausgeschlossen? 3. Verlange Kontrolle: Welche Daten, Tools und Stop-Regeln hast du genutzt? Quellen: • [1] https://www.nber.org/papers/w31161 • [2] https://metr.org/time-horizons/ • [3] https://developers.openai.com/api/docs/guides/agents • [4] https://www.anthropic.com/news/model-context-protocol • [5] https://developers.googleblog.com/en/a2a-a-new-era-of-agent-interoperability/ ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #Openai #Anthropic #Microsoft

Wem gehört die Kriegs-OS? Timestamps: 0:00 — Die nächste Waffe sieht nicht aus wie eine Waffe. 0:21 — Moderne Verteidigung leidet doch massiv unter diesem fragmentierten, völlig... 0:55 — Das wird zur faktischen Souveränitätsschicht. 1:15 — Das sind doch positive Blaupausen wie Lattice von Anduril und Palantir. 1:36 — Aber wir haben doch gar nicht die Zeit, auf irgendwelche perfekten... 1:57 — Mh, absolut. Die Interoperabilität. 2:18 — Ein Staat denkt, er sei souverän, nur weil die Rohdaten physisch auf seinen... 2:38 — Du mietest ihn. Puh. Okay, ich verstehe die Sorge vor dem Vendor-Lock-in. 2:58 — Das verhindert doch exakt diese Abhängigkeit. 3:19 — Du meinst also, die Modularität an der Oberfläche täuscht über die tiefer... 3:41 — Wir müssen fragen. Wer kontrolliert die Daten? 4:09 — Ja, absolut. Aber das verkennt die Realität einer echten offenen Architektur... 4:30 — Richtig, das ist die Theorie. 4:59 — Ein Trojanisches Pferd? Naja. 5:35 — Ja, aber die KI lernt doch nicht völlig frei im luftleeren Raum. 6:11 — Puh, das mag in der Theorie über Ontologien ja wunderbar strukturiert sein. 6:48 — Okay. Und exakt in diesem Moment pusht das Cloud-System des Anbieters ein... 7:27 — Und Air-Gaps, ja? Genau, Air-Gaps. 7:50 — Hm. Wenn der Technologieanbieter ausfällt oder sich geopolitisch... 8:10 — dass ein isolierter Edge-Server nach drei Tagen ohne Cloud-Anbindung... 8:44 — Wenn Software zur Kriegs-OS wird, besitzt der Staat seine Entscheidung oder... 3 Empfehlungen: 1. Frag den Stack: Wer besitzt Rohdaten und abgeleitete Daten? 2. Prüfe die Schnittstellen: Kann der Staat Modell, Ontologie und API auditieren? 3. Verlange Kontrolle: Wer entscheidet über Updates, Human Stop und Provider Exit? Mehr Kontext: • EP091 — Europa lernt Krieg als Datenrennen https://youtu.be/liE212iMix8 Quellen: • [1] https://www.palantir.com/offerings/defense/army/ • [2] https://www.anduril.com/news/anduril-and-palantir-to-accelerate-ai-capabilities-for-national-security • [3] https://www.anduril.com/lattice/ • [4] https://www.palantir.com/platforms/aip/defense/ • [5] https://www.icrc.org/en/statement/we-cannot-let-AI-be-deployed-on-battlefield-without-oversight-and-regulation • [6] https://blogs.icrc.org/law-and-policy/2024/09/04/the-risks-and-inefficacies-of-ai-systems-in-military-targeting-support/ • [7] https://www.nato.int/en/about-us/official-texts-and-resources/official-texts/2024/07/10/summary-of-natos-revised-artificial-intelligence-ai-strategy ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #MilitaerKI #DefenseAI #Automatisierung

Nach dem Körper-Score: Wer zahlt, wenn du Pech hast? Timestamps: 0:00 — Wenn jeder Körper transparent wird, kann der Markt endlich fair rechnen oder... 0:32 — Wenn wir das alles sehen, dann ist pure Gleichmacherei im System doch... 0:52 — Ja, aber... Wenn das System das nicht belohnt, entwertet es Prävention völlig. 1:12 — Exaktes Wissen zerstört letztlich den Kern dessen, was eine Versicherung... 1:51 — weil ein Mensch eben nicht nur als Datenprofil und erwartbarer Kostenfaktor... 2:11 — Okay, das ist ein starker Punkt. 2:31 — Das schafft Preisbewusstsein dort, wo man, weißt du, echte Wahlmöglichkeiten... 2:51 — Ein gemeinsamer Katastrophenpool für Genetik und Pech. 3:11 — Belohnt wird, was ich kontrollieren kann. 3:31 — Warte, das war diese riesige Studie zur Kostenbeteiligung, richtig? 4:10 — verzichten Menschen auf notwendige Hilfe. 4:34 — Und sie ergänzen unsere, naja, historische gesetzliche Solidargemeinschaft 4:58 — den Kosten für vermeidbare Zivilisationskrankheiten. 5:18 — oder proaktiv auf seinen Blutzucker achtet, warum sollte die Gemeinschaft... 5:38 — Also ich verstehe diese verlockende Marktlogik schon, aber ich kaufe das... 6:03 — Aber es stimmt doch, wir behandeln menschliche Gesundheit dann wie... 6:28 — Aber man muss eben verstehen, warum wir sie haben. 6:53 — Systemische Fairness existiert in so einem Markt halt nur dann, wenn dieses... 7:20 — für das, was wir eben doch steuern können. 7:56 — Das heißt, für mich, wenn wir diesen transparenten Gesundheitsmarkt zulassen, 8:21 — aus diesen Datentracking-Verträgen geben. 9:05 — Die Appeal Rights, genau. 9:38 — Am Ende bleibt dann aber die Frage, wenn wirklich alles messbar wird. 3 Empfehlungen: 1. Die positive Seite ist stark: Wer ueber Jahre nicht raucht, sich bewegt, Quellen: • [1] https://www.tk.de/techniker/gesundheit-foerdern/digitale-gesundheit/tk-fit/tk-fit-challenge-2077602 • [2] https://www.barmer.de/unsere-leistungen/leistungen-a-z/barmer-bonus • [3] https://www.gesetze-im-internet.de/sgb_5/__65a.html • [4] https://www.gkv-spitzenverband.de/krankenversicherung/kv_grundprinzipien/selbstverwaltung_gkv/gkv_selbstverwaltung_1.jsp • [5] https://www.gkv-spitzenverband.de/krankenversicherung/kv_grundprinzipien/finanzierung/finanzierung.jsp • [6] https://www.gesetze-im-internet.de/gendg/BJNR252900009.html • [7] https://gdpr-info.eu/art-9-gdpr/ ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #KuenstlicheIntelligenz

China warnt vor Claude Code-Versionen 2.1.91 bis 2.1.196 und nennt einen eingebauten Monitoring-Mechanismus angeblich "Backdoor-Code". Anthropic verweist laut Bericht auf ein Experiment gegen Model-Distillation, das mit Version 2.1.198 entfernt wurde. Die eigentliche DACH-Frage ist nicht: Hat China recht? Sondern: Wenn ein Coding-Agent Repository, Shell, lokale Dateien, MCP-Server und Unternehmenskontext sehen kann, wer auditiert dann den Agenten selbst? Timestamps: 0:00 — China warnt vor Claude Code: Backdoor-Vorwurf oder Sicherheitsstreit? 0:24 — Warum ein Coding-Agent mehr ist als ein normales Developer-Tool 0:48 — Anti-Distillation, Telemetrie und die Sicht des Anbieters 1:12 — Die Praxisfrage: Sandbox, Permissions und Unternehmensrealität 1:36 — Wenn lokale Dateien, Build-Skripte und Secrets im Kontext liegen 2:00 — .claude/settings.json, /permissions, OpenTelemetry und MCP 2:24 — Wo externe Systeme den Kontrollkonflikt verschärfen 2:48 — Versionen 2.1.91 bis 2.1.196 und die Beweislast 3:12 — Auditierbarkeit: Was Unternehmen wirklich nachweisen müssen 3:36 — Warum ein Update allein das Vertrauensproblem nicht löst 4:00 — Der zweite Blick: Nutzen, Schutzmechanismen und Gegenargument 4:24 — Warum Anbieter-Monitoring nicht automatisch böse ist 4:48 — Der Unterschied zwischen Diagnose, Kontrolle und Datenabfluss 5:12 — Was passiert, wenn Monitoring nicht abschaltbar ist? 5:36 — Transparenz als Produktivitätsbedingung, nicht als Bürokratie 6:00 — Wer profitiert, wenn der Agent Entscheidungen vorbereitet? 6:24 — Warum "Backdoor" juristisch und technisch zu kurz greifen kann 6:48 — Der praktische Test für Teams in DACH-Unternehmen 7:12 — Können Nutzer Empfehlungen stoppen, bevor Daten abfließen? 7:36 — Welche Belege Vertrauen ersetzen können: Audits und Protokolle 8:00 — Warum Versprechen in der Cyber-Sicherheit nicht reichen 8:24 — Der offene Punkt: Wer kontrolliert den kontrollierenden Agenten? 8:48 — Was vor produktivem Einsatz bewiesen sein muss 9:12 — Release-Nummern als Warnsignal für Software-Lieferketten 9:36 — Fazit und KI Espresso 3 Empfehlungen: 1. Agent-Versionen und Updates wie Dependencies tracken. 2. Permissions, Netzwerkzugriff und MCP-Server pro Repository begrenzen. 3. Logs/Telemetry/Audit-Spuren regelmäßig prüfen, nicht erst nach einem Verdacht. Quellen: • [1] https://www.theregister.com/security/2026/07/08/china-ditch-older-claude-versions-with-backdoor-code/5268371 • [2] https://code.claude.com/docs/en/overview • [3] https://code.claude.com/docs/en/settings • [4] https://code.claude.com/docs/en/security Verwandte Episoden: • Claude Mythos gehört jetzt dem Pentagon: https://youtu.be/yKjUjusdKLI • 2,5 Milliarden — scheitern sie an einer: https://youtu.be/Yub4XwCDVYY • 15 Billionen — McKinsey: „Agent-Readable oder unsichtbar: https://youtu.be/0ezy0SVqUJQ ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #Anthropic #Claude #KiStartup

Wie baut man einen eigenen Agenten wirklich? Timestamps: 0:00 — Ein eigener Agent ist kein Modell auf deinem Laptop. 0:21 — Und genau deshalb ist das für Europa keine Nerdfrage. 1:08 — Da muss ich diese Euphorie direkt bremsen. 1:35 — digitalen Leben. Ich verstehe den Reflex, das direkt als Risiko zu sehen,... 1:58 — Nimm zum Beispiel OAuth Scopes. 2:26 — Ich komme da aus einer ganz anderen Richtung. 3:00 — Ja, aber du bist abhängig von denen. 3:20 — Das ist ein starkes Argument für Bequemlichkeit, gebe ich zu. 3:50 — Besitz definiert sich über die absolute Autorität über diese Schnittstellen. 4:16 — Schieß los. Erstens kann ich die Erinnerungen des Agenten exportieren. 4:46 — Wenn dir ein Prozess unheimlich oder intransparent wird, musst du ihm die... 5:14 — Fünftens kann ich alle Werkzeugaufrufe im Nachhinein auditieren und exakt... 5:44 — Okay, Fairpoint. Was sind die letzten beiden Fragen? 6:10 — Welche? Wenn dein Agent technisch gesehen alles kann, aber du seine Regeln... 3 Gedanken: 1. Die positive Seite ist real: offene Protokolle wie MCP und A2A können Memory, Tools und Modelle voneinander trennen. 2. Der Risiko-Punkt bleibt real: mehr Rechte bedeuten mehr Angriffsfläche, mehr Haftung und mehr Wartung. 3. Der eigentliche Test lautet nicht lokal oder Cloud, sondern: Kannst du exportieren, widerrufen, limitieren, auditieren, stoppen und wechseln? Quellen: • [1] https://modelcontextprotocol.io/specification/2025-06-18 • [2] https://developers.googleblog.com/en/a2a-a-new-era-of-agent-interoperability/ • [3] https://developers.openai.com/api/docs/guides/agents • [4] https://openai.github.io/openai-agents-python/agents/ • [5] https://datatracker.ietf.org/doc/rfc9700/ • [6] https://www.w3.org/TR/webauthn-3/ • [7] https://www.nist.gov/itl/ai-risk-management-framework ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #Openai #Llm

46.812 Abos gelöscht — wer haftet für KI-Hacking? Ein 15-Jähriger steht in Japan unter Verdacht, beim Anime-Streamingdienst Bandai Channel zehntausende Abos ungewollt gekündigt zu haben. Laut Polizeiberichten soll ChatGPT beim Erstellen eines Programms geholfen haben. Das ist kein Beweis gegen KI-Coding insgesamt. Aber es zeigt eine neue Sicherheitsfrage: Wenn KI die Einstiegshürde senkt, wer trägt Verantwortung — Nutzer, Modellanbieter, Plattform oder Aufsicht? Timestamps: 0:00 — 46.812 Abos und der Verdachtsfall 0:23 — Dienstunterbrechung und mögliche Datenoffenlegung 0:53 — Plattformversagen oder KI-Problem? 1:21 — Warum das mehr ist als Infrastruktur 1:46 — Der fehlende digitale Türsteher 2:16 — Datenverkehr, Schwachstelle und ChatGPT 2:50 — Wenn KI die technische Hürde senkt 3:16 — Wer trägt Verantwortung vor dem Schaden? 3:49 — Compiler-Vergleich: Werkzeug oder Beschleuniger? 4:26 — Schaden vor Einsicht 5:02 — Wer gibt Nutzern Kontrolle zurück? 5:50 — Weckruf für Account-Sicherheit 3 Empfehlungen: 1. Plattformen sollten Massenänderungen an Account-Zuständen hart begrenzen, protokollieren und rückgängig machen können. 2. Schulen und Eltern brauchen klare KI-Coding-Regeln: lernen und debuggen ja, fremde Systeme testen oder automatisiert verändern nein. 3. KI-Anbieter, Plattformen und Aufsicht sollten Missbrauch nicht erst nach dem Vorfall prüfen, sondern an den Übergängen: Prompt, Script, API, Account-Status, Rollback. Quellen: • Jiji/Nippon — Arrest report: https://www.nippon.com/en/news/yjj2026070600218/ • Bandai Channel — official service/security notice: https://info.b-ch.com/article/20251219oshirase.html • Kyodo via The Straits Times — English wire report: https://www.straitstimes.com/asia/east-asia/japanese-teen-arrested-for-cyberattack-that-unsubscribed-over-46000-anime-accounts • Automaton/TBS — industry context: https://automaton-media.com/en/news/15-year-old-arrested-in-japan-over-alleged-cyberattacks-on-bandai-namco-anime-streaming-service-using-chatgpt-generated-malware/ • Golem — German tech framing: https://www.golem.de/news/vibe-coding-schueler-hackt-streaminganbieter-mit-chatgpt-programm-2607-210541.html Verwandte Episoden: • KI-Browser-Agenten brechen Web-Sicherheit: https://youtu.be/eWShAXBul2k • 28,8 Millionen Fragen — Modellklau durch API-Nutzung: https://youtu.be/UaZPe4gSSzY • KI-Agent mit Pass: Wer gibt ihm Zugriff?: https://youtu.be/ORPutA2Ccas ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #ChatGPT #Cybersecurity #KISicherheit

KI wird Laborleiter — wer prüft die Entdeckung? Anthropic startet Claude Science: mehr als 60 wissenschaftliche Datenbanken, Reviewer-Agent, Code, Compute und reproduzierbare Artefakte in einem Forschungsraum. Klingt nach schnellerer Wissenschaft. Aber wenn der Agent Literatur sucht, Code schreibt, Daten filtert und sich selbst prüfen lässt: Wer trägt am Ende die Verantwortung? Timestamps: 0:00 — Mehr als 60 Datenbanken: Claude wird Laborleiter 0:38 — Reviewer-Agent oder zweiter KI-Kreis? 1:09 — Warum das mehr ist als ein Chatbot 1:47 — Workflow-Schicht für Forschung 2:26 — Welche Daten verlassen das Labor? 3:09 — Anthropic als Werkzeuganbieter und Forschungsakteur 4:09 — Das eigentliche Laborproblem 4:44 — Wer unterschreibt die Entdeckung? 5:13 — Zusatzrunde: Tempo vs. Kontrolle 6:24 — Was passiert mit wissenschaftlicher Reibung? 7:17 — Warum simulierte Prüfung nicht genügt 7:34 — Drei praktische Checks für Labore 8:10 — Credits, IP-Fragen und offener Schluss 3 Empfehlungen: 1. Prüft, welche Daten ein Forschungsagent wirklich sehen darf. 2. Baut unabhängige Review-Pipelines, statt nur dem Hersteller-Reviewer zu vertrauen. 3. Klärt IP, Audit-Trail und menschliche Freigabe, bevor ein Agent Compute-Jobs oder Datenfilter ausführt. Quellen: • Anthropic — Claude Science: https://www.anthropic.com/news/claude-science-ai-workbench • Reuters via The Star — Launch + pre-clinical drug programmes: https://www.thestar.com.my/tech/tech-news/2026/07/01/anthropic-unveils-039claude-science039-ai-platform-for-scientific-research • TechCrunch — Workflow, nicht neues Modell: https://techcrunch.com/2026/06/30/anthropics-claude-science-bets-on-workflow-not-a-new-model-to-win-over-scientists/ • OpenAI — GPT-Rosalind: https://openai.com/index/introducing-new-capabilities-to-gpt-rosalind/ • Google DeepMind — AlphaFold 3: https://blog.google/innovation-and-ai/products/google-deepmind-isomorphic-alphafold-3-ai-model/ Verwandte Episoden: • Null zugelassene KI-Medikamente — trotzdem investiert die Pharma Milliarden: https://youtu.be/nn3vXr7YFHc • Der Arzt wird zum Auditor der KI: https://youtu.be/HzOq7w2R8qg • Wem gehören deine Gesundheitsdaten, wenn sie heilen können?: https://youtu.be/mLg6HfQPdiI ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #ClaudeScience #Anthropic #KIForschung

Wer bekommt die Cyber-KI? Bis zu 30 Tage Vorabzugriff fuer den US-Staat, bevor ein Cyber-Frontier-Modell an trusted partners geht: Klingt nach Sicherheit. Aber es heisst auch, dass Zugang zu Cyber-KI zur politischen Entscheidung wird. In dieser KI-Espresso-Debatte: Anthropic Fable 5 / Mythos 5, OpenAI GPT-5.6 Sol, trusted partners, US-Review, DACH-Unternehmen und die Frage, wer die besten Modelle zur Schwachstellensuche zuerst nutzen darf. Timestamps: 0:00 — Bis zu 30 Tage Vorabtest 0:20 — Covered Frontier Models 0:44 — Anthropic: Stopp und Neustart 1:08 — Zugangskontrolle als Gatekeeper 1:35 — Cyber-KI als Hochsicherheitslabor 2:00 — Fable 5 vs. Mythos 5 2:24 — Der elitaere KI-Club 2:46 — OpenAI GPT-5.6 Sol 3:12 — DACH: Bank, Krankenhaus, Energie 3:33 — Vertrauen oder Abhaengigkeit? 3:53 — False Positives und europaeische Verteidiger 4:13 — Drei Tests fuer Tech-Teams 4:52 — Wer darf sie zuerst fragen? 3 Empfehlungen: 1. Fuehrt ein Access-Register fuer Cyber-KI: Modell, Version, Nutzer, Daten, Region und Rechte. 2. Trennt defensive KI-Tests von Produktionsnetzen und echten Admin-Zugaengen. 3. Klaert mit jedem Anbieter, welche Prompts geblockt, geloggt, weitergeleitet oder gemeldet werden. Quellen: • Anthropic — Redeploying Fable 5: https://www.anthropic.com/news/redeploying-fable-5 • White House — Promoting Advanced Artificial Intelligence Innovation and Security: https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/ • OpenAI — Previewing GPT-5.6 Sol: https://openai.com/index/previewing-gpt-5-6-sol/ Verwandte Episoden: • 28 Millionen Fragen: Modellklau durch API?: https://youtu.be/Yub4XwCDVYY • Dein KI-Agent gehoert dir nicht - wer hat Zugriff?: https://youtu.be/PQ-DNTfDt5Y • Claude Mythos gehoert jetzt dem Pentagon: https://youtu.be/yKjUjusdKLI ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hoeren: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #KIEspresso #KI #Cybersecurity

4 von 7 getesteten KI-Browsern oeffnen eine Luecke in einer der aeltesten Sicherheitsgrenzen des Webs. Der Browser-Agent ist nuetzlich, weil er handeln darf. Und genau deshalb wird er gefaehrlich: Wenn ein Agent Tabs, Logins, Formulare und Seiteninhalte zugleich sieht, reicht eine versteckte Anweisung auf einer Webseite ploetzlich weiter als klassisches Web-Scripting. Timestamps: 0:00 — 4 von 7 KI-Browsern: die neue Sicherheitsluecke 0:29 — Warum der Browser-Agent gefaehrlich wird 1:05 — Same-Origin Policy: die Glasscheiben im Web 1:46 — Wenn der Agent Daten zwischen Kontexten traegt 2:11 — Warum nuetzliche Automatisierung zum Risiko wird 2:33 — Prompt Injection: fuer den Agenten ist alles Text 3:00 — UW-Test: Atlas, Gemini, Claude und Comet 3:44 — Warum Schutzmechanismen nicht reichen 4:19 — Brave und Unit 42: Angriffe in der Praxis 4:59 — Die neue Sicherheitsgrenze: was darf der Agent? 5:28 — Profiltrennung gegen Bequemlichkeit 6:01 — Granulare Rechte, Logs und Widerruf 6:34 — Ist der Agent noch Assistent? 6:56 — Autopilot-Analogie: wer profitiert? 7:28 — Blackbox-Agenten und lokale Modelle 8:05 — Lokale Ausfuehrung: Versprechen und Grenze 8:42 — Kann der Nutzer stoppen, bevor Daten gehen? Quellen: • University of Washington: Some agentic AI browsers come with major cybersecurity risks https://www.washington.edu/news/2026/06/30/some-agentic-ai-browsers-come-with-major-cybersecurity-risks-uw-study-finds/ • UW research page: Agentic Browsers and the Same-Origin Policy https://agent-security.cs.washington.edu/agentic_browsers_sop.html • Brave: Indirect Prompt Injection in Perplexity Comet https://brave.com/blog/comet-prompt-injection/ • Palo Alto Networks Unit 42: Web-Based Indirect Prompt Injection https://unit42.paloaltonetworks.com/ai-agent-prompt-injection/ Verwandte Episoden: • Dein KI-Agent gehoert dir nicht - wer hat Zugriff?: https://youtu.be/PQ-DNTfDt5Y • 2,5 Milliarden — scheitern sie an einer: https://youtu.be/Yub4XwCDVYY • 65 Prozent — You can't blame it on the box: https://youtu.be/LPYPx4sEDpM ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hoeren: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #KIEspresso #KI #Cybersecurity

Am 27. Juli 2026 entscheidet Europa, ob Google Suchdaten teilen und Android fuer konkurrierende KI-Assistenten weiter oeffnen muss. Das klingt nach Wettbewerb. Aber bei KI-Assistenten ist Kontext nicht Beiwerk: Suchanfragen, Klicks, Bildschirmdaten, App-Aktionen und Wake Words sind genau die Flaechen, auf denen ein Assistent nuetzlich wird - und gefaehrlich werden kann. Timestamps: 0:00 — Am 27. Juli entscheidet Europa, ob Google deine Suche und deinen... 0:20 — sicherheitstechnischer Albtraum. 0:40 — einfach so quasi blind an Dritte weiterzureichen. 1:06 — warum die EU das ueberhaupt fordert 1:32 — der Datenschatz hinter KI-Suche 1:57 — Suchanfragen sind nicht harmlos 2:23 — Android-Kontext, Wake Word und Logging 2:50 — Privacy-Argument oder PR-Schild? 3:23 — DACH-Produktrealitaet 3:52 — das Plattform-Monopol im Alltag 4:16 — Oeffnung gegen Kontrollverlust 4:45 — wer darf den Datenfluss sehen? 5:22 — warum der Kabelvergleich hinkt 5:52 — wer spricht mit wem? 6:27 — Permission-Gates und Defaults 7:01 — wenn Nutzer nur noch "alle akzeptieren" klicken 7:36 — Portabilitaet ist nicht Dauerzugriff 8:14 — wem vertraust du die Augen deines Telefons an? 3 Empfehlungen: 1. Erstellt eine Kontext-Matrix: Screen, Audio, Standort, App-Daten, Suchdaten, Kalender, Kontakte und Aktionen. Daneben: welcher Assistent darf lesen, welcher darf schreiben, welcher darf nur vorschlagen? 2. Trennt Portabilitaet von Dauerzugriff: kurze Tokens, klare OAuth-Scopes, Audit-Logs, Zweckbindung und Widerruf muessen sichtbar und testbar sein. 3. Fragt im naechsten Architektur-Review: Wenn Interoperabilitaet morgen Pflicht wird, koennen wir Dritt-Assistenten anbinden, ohne ihnen das ganze Produktgedaechtnis zu geben? Quellen: • European Commission - Google Search data sharing, DMA Article 6(11): https://digital-markets-act.ec.europa.eu/dma100209-consultation-proposed-measures-google-search-data-sharing_en • European Commission - Google Android AI interoperability, DMA Article 6(7): https://digital-markets-act.ec.europa.eu/dma100220-consultation-proposed-measures-interoperability-google-android-article-67-dma_en • European Commission - EU Citizens Q&A on Google specification proceedings: https://digital-markets-act.ec.europa.eu/citizens-and-whistleblower-portal/eu-citizens-qa_en • WIRED - Google security/privacy warning on EU search-data plans: https://www.wired.com/story/top-google-security-staff-warn-search-data-could-be-hacked-thanks-to-eu-plans/ • Knight-Georgetown Institute - search data sharing and AI competition: https://kgi.georgetown.edu/research-and-commentary/designing-europes-search-data-sharing-rules-for-competition-in-the-ai-era/ • Open Markets Institute Europe - Android AI DMA measures: https://www.openmarketsinstitute.org/publications/open-markets-institute-europe-commends-commission-for-proposed-android-ai-dma-measures Verwandte Episoden: • Darf Amerika deine KI abschalten?: https://youtu.be/xTvbJpVtIUM • KI kauft fuer dich: Wem gehoert dein Agent?: https://youtu.be/ff6krfNaU-k • KI-Agent mit Pass: Wer gibt ihm Zugriff?: https://youtu.be/1FxG9fC3GzE ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hoeren: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #DigitalMarketsAct #Google #KIEspresso

28,8 Millionen Fragen: Kann man ein KI-Modell durch seine Antworten kopieren? Timestamps: 0:00 — 28,8 Millionen Fragen an Claude. 0:31 — zu extrahieren. Die Frage ist nicht nur hat Alibaba geklaut, die Frage ist,... 1:04 — Und genau diesen Begriff, also Distillation, den missbrauchen große... 1:40 — Das ist doch kein normales Lernen. 2:15 — Wenn wir deiner Logik folgen, erschaffen wir eine völlig dystopische... 2:51 — in Keim. Multimodellstrategien werden für Unternehmen plötzlich zu einem... 3:12 — betrachten. Unzählige europäische Firmen bauen genau jetzt ihre internen... 3:32 — Exakt. Die Gefahr für diese Unternehmen ist ja nicht ein klassischer Heck,... 4:06 — absaugen kann. Das sind wir wieder bei den 28,8 Millionen Exchanges vom Anfang. 4:27 — verteufeln. Ich, also ich vertrete hier ganz klar den Standpunkt. 4:59 — mehr genutzt, um mal punktuell Antworten zu bekommen, sondern als reiner Kanal 5:20 — wirklich bis auf die kleinste Schraube auseinander nimmt, um, naja, den... 5:56 — statisches physisches Objekt. 6:37 — Accounts. Warum braucht man so eine gigantische Menge? 7:00 — Attacke, aber wie definieren wir denn eine gründliche Evaluierung bei... 7:22 — dass das Modell in der Produktion nicht plötzlich unvorhergesehene Fehler macht. 7:43 — hinaus. Meinst du, dass da durch die bloße Menge ein Testdaten zu viel... 8:05 — die API. Wer ein Modell auf diese Weise ausleuchtet, extrahiert vielleicht... 8:38 — Wie sollen Unternehmen diesen schmalen Grad überhaupt navigieren? 3 Empfehlungen: 1. Pruefe API-Vertraege: Duerfen Outputs, Prompts oder Workflows zum Training genutzt werden? 2. Ueberwache Missbrauchssignale: Volumen, Account-Sharing, Proxy-Muster und wiederholte Aufgaben. 3. Plane den Exit: Multi-Model-Strategie, Log-Fristen, Loeschpfade und Wechselmoeglichkeit. Quellen: • [1] https://www.musicbusinessworldwide.com/files/2026/06/Anthropic-letter.pdf • [2] https://www.forbes.com/sites/jonmarkman/2026/06/26/anthropic-says-alibaba-used-25000-fake-accounts-to-distill-claude/ • [3] https://www.infoworld.com/article/4189342/anthropic-accuses-alibaba-of-using-25000-fake-accounts-to-scrape-claude-ai.html • [4] https://www.bankinfosecurity.com/ai-firms-seek-us-help-against-china-model-distillation-a-32082 • [5] https://www.anthropic.com/legal/consumer-terms • [6] https://www.nist.gov/itl/ai-risk-management-framework • [7] https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng Verwandte Episoden: • 4,8% gegen 74,5%: Kann Deutschland bei KI noch aufholen?: https://youtu.be/z2rCNvJSjAg • 2,5 Milliarden — scheitern sie an einer: https://youtu.be/Yub4XwCDVYY • 25 Millionen — und das alles vollautomatisch: https://youtu.be/mDD41CBCabE ️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #Anthropic #Alibaba #Claude