Datenschutz ist kein KI-Verhinderer: Warum die DSGVO eigentlich euer bester Verbündeter ist | Dr. Sebastian Kraska, Rechtsanwalt und externer Datenschutzbeauftragter

Heißt es bei euch im Unternehmen auch „Geht nicht wegen
Datenschutz", sobald jemand ChatGPT, Claude oder einen KI-Agenten
erwähnt? Was sagt die DSGVO eigentlich wirklich zum Einsatz von
KI – und warum ist die Schatten-IT in Wahrheit das größere Risiko
als die Cloud-Tools, die du verbietest? Und was passiert mit
Artikel 22 DSGVO, wenn Agenten anfangen, autonom Entscheidungen
zu treffen?


Zu diesen und weiteren Fragen spreche ich in dieser Episode von
„AI to the DNA", dem Podcast für alle, die Künstliche Intelligenz
wirklich verstehen und anwenden wollen, mit Dr. Sebastian Kraska.
Sebastian ist Rechtsanwalt, Diplomkaufmann und Gründer der IITR
Datenschutz GmbH in München. Er ist seit über 15 Jahren auf
Datenschutzrecht spezialisiert, ist seit den Anfangstagen unser
Datenschutz-Beauftragter bei Blackboat und gehört zu den Stimmen,
die in Brüssel zu Datenschutz und KI gehört werden.


Diesen Podcast gibt es auch als Video-Podcast auf meinem YouTube
Kanal.



Wir sprechen darüber, warum „Datenschutz geht nicht" das
innerbetriebliche Totschlagargument unserer Zeit geworden ist –
und welche Rahmenbedingungen die DSGVO tatsächlich für den
KI-Einsatz vorsieht. Sebastian erklärt das kleine Einmaleins von
Auftragsverarbeitung über Modell-Training bis zum Unterschied
zwischen Free- und Business-Accounts und warum bei den großen
Anbietern heute weit mehr rechtlich konform möglich ist, als
viele denken.


Außerdem diskutieren wir Artikel 22 DSGVO, also die Vorschrift
zur automatisierten Einzelentscheidung. Sie steht im direkten
Spannungsfeld zur Effizienzlogik von Agentic AI: Darf eine
Maschine über deine Bewerbung, deinen Kredit, deine Behandlung
entscheiden – oder muss am Ende immer ein Mensch im Driver Seat
sitzen? Und was bedeutet es, wenn Brüssel gerade an genau dieser
Vorschrift schraubt?


Darüber hinaus geht es um Risiko und Souveränität: US-Cloud,
China, eigene Server, Open Source – wo sollte ein Unternehmen
heute realistisch ansetzen? Und brauchte es überhaupt eine
KI-Verordnung, oder hätte die DSGVO ausgereicht, wenn man sie
ernst genommen hätte? Sebastian bringt eine klare Empfehlung mit,
was Mittelstand und Konzerne jetzt konkret tun sollten – und was
sie getrost ignorieren können.


Hier bei AI to the DNA will ich, Christoph Magnussen, tiefer in
die Materie KI eintauchen. Mich interessiert nicht nur, wie man
KI nutzt, sondern warum sie so funktioniert, wie sie
funktioniert. Mit AI to the DNA gewinnt ihr Einblicke in die
Natur der Künstlichen Intelligenz und erfahrt, wie sie Teil eurer
DNA wird. So werdet ihr von neugierigen Tool-Tourist:innen zu
echten AI-Anwendungsweltmeister:innen.


️  Die Blackboat AI Summer School: Vier
Wochen Online-Sprint mit Hands-on-Aufgaben, um vom
Kl-Ausprobieren zu echten Pro-Skills zu kommen. Vom Tool-Tourist
zu eigenen Agent-Systemen mit unserer AI Summer School!



Spare jetzt 250€ mit dem Gutscheincode: ATTD-SUMMER
-> Jetzt anmelden auf https://academy.blackboat.com


️ Wenn dir AI to the DNA gefällt, freuen wir uns über eine
5-Sterne-Bewertung. Damit hilfst du uns enorm,
den Podcast sichtbarer zu machen und noch mehr Menschen mit
unseren Themen zu erreichen. Danke für deinen Support!


(00:00) - Intro

(01:26) - Willkommen im Café Datenschutz: Sebastian Kraska

(05:25) - Mentalität und Risiko: Warum „keine KI einsetzen"
der riskantere Weg ist

(07:59) - „Geht nicht wegen Claude": Halbwissen und
Totschlagargument

(10:00) - Auftragsverarbeitung: Das Grundprinzip hinter
KI-Auslagerung

(13:25) - US-Transfers und EuGH: Deutsche Server vs. Cloud
Act

(18:54) - Souveränität als Risikosteuerung: Open Source,
München und Schleswig-Holstein

(21:08) - Agentic AI: Wenn Claude Code, Codex und Cowork
autonom in deine Daten greifen

(24:09) - „KI soll zuarbeiten, nicht entscheiden": Der
regulative Grundsatz

(27:52) - Artikel 22 DSGVO: Science Fiction aus den 70ern
trifft auf Agentic AI

(30:25) - Workspace, Intent und Taste: Warum der Mensch im
Driver Seat bleibt

(33:08) - Bewerbungsscreening und selbstfahrende Autos: Die
gesellschaftliche Frage

(35:40) - Schutzmechanismen für die Minderheit: Warum Regeln
Sinn machen

(38:53) - Verantwortlichkeit, Prompt Injection und Guardrails
für Agenten

(42:35) - China, Hugging Face und Joint Ventures:
Datentransfer als wirtschaftspolitische Frage

(45:41) - Risiko-Realität: Welche Alternativen Unternehmen
wirklich haben

(49:12) - Das Rennen um die Modelle ist verloren – die
Implementierung nicht

(52:31) - Der AI Act: Mit heißer Nadel gestrickt und schon
überholt?

(57:42) - Brauchte es wirklich eine KI-Verordnung? DSGVO
statt Compliance-Layer

(59:21) - AI Officer: Warum die Schnittmenge aus Recht und
Technik fehlt

(01:06:08) - Claude Mythos und Sicherheitslücken: Ein neues
Biest für den Datenschutz

(01:08:15) - Was sollten Unternehmen tun?

(01:10:32) - Outro und Empfehlung: Datenschutz-Videos auf
YouTube