Startseite
Podcasts
Data Science Deep Dive Podcast
#103: EU AI Act: Risikostufen, Pflichten und Watermarking mit SynthID

#103: EU AI Act: Risikostufen, Pflichten und Watermarking mit SynthID

Data Science Deep Dive vor 18 Stunden

0:00

46:34

In dieser Folge sprechen wir über den EU AI Act: was er unter
einem KI-System versteht, welche Risikostufen er unterscheidet
und welche Regeln bereits gelten. Wir gehen auf die kurzfristigen
Änderungen durch den EU AI Omnibus ein, unter anderem die
verschobenen Fristen für Hochrisiko-Systeme. Außerdem erklären
wir, welche Pflichten für Anbieter von
General-Purpose-AI-Modellen gelten und welche Rolle der Code of
Practice dabei spielt. Im Deep Dive zur Transparenzpflicht geht
es darum, wie sich KI-generierte Inhalte kennzeichnen lassen und
wie Text-Watermarking mit SynthID technisch funktioniert. Zum
Schluss ordnen wir ein, was die Regulierung für
Data-Science-Projekte in der Praxis bedeutet.

**Zusammenfassung**

Stand der Umsetzung: Verbotene Praktiken und die Pflicht zur
KI-Kompetenz gelten seit dem 2.2.2025, die Transparenzpflichten
seit dem 2.8.2026.

EU AI Omnibus: Die Fristen für Hochrisiko-Systeme wurden auf
den 2.12.2026 (Stand-alone) bzw. 2.12.2027 (eingebettet)
verschoben, zudem kam ein Verbot nicht einvernehmlicher
sexualisierter Deepfakes hinzu.

Definition von KI: Der AI Act beschreibt KI-Systeme als
maschinengestützte Systeme mit unterschiedlichem Autonomiegrad,
die aus Eingaben ableiten, wie sie Vorhersagen, Inhalte,
Empfehlungen oder Entscheidungen erzeugen.

Risikostufen: Unterschieden werden verbotene Praktiken (z. B.
Manipulation, Social Scoring), Hochrisiko-Anwendungen (z. B.
kritische Infrastruktur, Gesundheit, Bildung, Justiz) und die
Restkategorie mit geringem Risiko.

General-Purpose-AI: Große Foundation-Modelle unterliegen
Dokumentations- und Informationspflichten, etwa zu Trainingsdaten
und Urheberrecht; ab 10^25 FLOPs Trainingsaufwand wird ein
systemisches Risiko vermutet.

Code of Practice: Anbieter*innen können Compliance über den
Code of Practice mit den Kapiteln Transparenz, Urheberrecht sowie
Sicherheit und Gefahrenabwehr nachweisen.

Kennzeichnung von KI-Inhalten: Bilder, Videos und Audio
lassen sich per Wasserzeichen oder Metadaten (C2PA) markieren,
Texte über eine subtile Beeinflussung der Token-Auswahl wie bei
SynthID – beide Ansätze haben aber klare Grenzen bei Erkennung
und Manipulationssicherheit.

Bedeutung für die Praxis: Wichtig sind die Risikoeinordnung
eines Projekts, eingebaute Transparenzmechanismen etwa bei
Chatbots und dokumentierte Maßnahmen zur KI-Kompetenz – vieles
davon entspricht ohnehin guter Praxis.

**Links**

Verordnung (EU) 2024/1689 (AI Act) auf EUR-Lex:
https://eur-lex.europa.eu/eli/reg/2024/1689/oj Bundesnetzagentur
– KI-Verordnung, Zeitplan und Überblick (deutsch):
https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/1_Ziel/start_ziel.html

EU-Kommission – Safer and more transparent AI (2.8.2026):
https://commission.europa.eu/news-and-media/news/safer-and-more-transparent-ai-2026-08-02_en

Rat der EU – Final green light für den AI Omnibus:
https://www.consilium.europa.eu/en/press/press-releases/2026/06/29/artificial-intelligence-council-gives-final-green-light-to-simplify-and-streamline-rules/

technology.org – What actually applies on 2 August 2026:
https://www.technology.org/2026/07/17/eu-ai-act-what-actually-applies-on-2-august-2026/

Nature-Paper zu SynthID-Text:
https://www.nature.com/articles/s41586-024-08025-4

Google DeepMind – Watermarking mit SynthID:
https://deepmind.google/blog/watermarking-ai-generated-text-and-video-with-synthid/

C2PA – Standard für Herkunftsnachweise von Inhalten:
https://c2pa.org/

Lust auf einen Schnack bei der goto; Konferenz in Kopenhagen?

Sebastian auf LinkedIn:
https://www.linkedin.com/in/sebastianwarnholz

goto; Konferenz in Kopenhagen: https://gotocph.com/2026

Fragen, Feedback oder Themenwünsche? Schreibt uns gern an:
podcast@inwt-statistics.de