EU AI Act – Bedeutung für die Bildung (Lajla Fetic)

In dieser Folge von „Educätion im Fokus“ dreht sich alles um den
AI-Act und dessen Bedeutung für den Schulalltag.
Die Expertin Lajla Fetic erläutert die Funktionsweise der
europäischen KI-Verordnung, insbesondere die Risikopyramide, und
ordnet verschiedene Bildungs-Tools in diesen rechtlichen Rahmen
ein. Lehrkräfte und Schulleitungen erhalten wertvolle Einblicke
in ihre Rollen als Betreiber sowie praktische Hinweise zum
reflektierten Umgang mit KI-Systemen im Unterricht.


️ Inhalt im Überblick


(00:00) Einführung & Vorstellung der heutigen
Gesprächspartnerin (03:09) Der EU AI Act als Sicherheitsnetz und
weltweite Einordnung von KI (07:27) Die Risikopyramide: Von
Verboten bis zum minimalen Risiko (12:11) Einordnung von
Bildungs-Tools: Soekia GPT, telli und ITS. (25:47) Menschliche
Kontrolle: Warum KI im Bildungswesen oft Hochrisiko ist (30:47)
Rollenverteilung: Wo liegen Rechte und Pflichten der Schulen?
(39:54) Fortbildungsangebote und Unterstützungsmaterialien in
Baden-Württemberg


Unser Gast


Lajla Fetic ist Head of Public Interest and Policy beim
gemeinnützigen Applied AI Institute for Europe. Als erfahrene
Speakerin und Politikberaterin begleitete sie die KI-Verordnung
auf EU-Ebene sowie die Umsetzung im Deutschen Bundestag. Ihr
Fokus liegt auf der gemeinwohlorientierten Gestaltung und dem
vertrauenswürdigen Einsatz von KI-Technologien.


Aus dem Podcast


Die Aufnahme dieser Folge erfolgte im Dezember 2025. Angesichts
der hohen Dynamik bei der technischen Entwicklung von KI-Tools
und einer Konkretisierung der rechtlichen Rahmenbedingungen
können aktuelle Entwicklungen von den besprochenen Inhalten
abweichen. Die Informationen entsprechen dem Sachstand zum
Zeitpunkt der Aufnahme. In Baden-Württemberg haben Schulen über
die digitale Bildungsplattform direkten Zugriff auf
datenschutzkonforme Tools wie den Chatbot telli zur Nutzung mit
Lernenden und die Schreibassistenz F13 für organisatorische
Aufgaben.


Richtlinien zur sicheren Nutzung von KI im
Schulkontext


Als Landeslösungen sind über SCHULE@BW aktuell verfügbar: telli
und F13. Neben den Landeslösungen können nur zentral von der
Schulleitung eingeführte und rechtlich abgeklärte Anwendungen mit
Schülerinnen und Schülern genutzt werden. Personenbezogene Daten
dürfen ausschließlich in Anwendungen verarbeitet werden, die
dafür zugelassen sind. Weitere Anwendungen können zur
Unterrichtsvorbereitung verwendet und im Unterricht gezeigt
werden, sofern keine personenbezogenen oder vertraulichen Daten
eingegeben werden. Hier sollten Lehrkräfte sich jedoch immer
ihrer Vorbildfunktion bewusst sein.


Weiterführende Links


EU AI Act
(https://artificialintelligenceact.eu/de/ai-act-explorer/)

EU AI Act Anhang III
(https://artificialintelligenceact.eu/de/annex/3/)

Applied AI Institute for Europe
(https://www.appliedai-institute.de)

Soekia GPT (https://www.soekia.ch/gpt.html)

Risikostufen zur Einstufung von KI
(https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/2_Risiko/start_risiko.html)

Paper „Stochastic Parrots“ von Emily Bender & Timnit
Gebru
(https://www.turing.ac.uk/events/dangers-stochastic-parrots)

Meister Cody (https://www.meistercody.com/)

TaskCard zu telli
(https://lfb-bw.taskcards.app/#/board/76bab474-4504-4733-811e-d3a3ba27bf49/view?token=8b0aa138-6138-47bf-8a33-e89f314ff45c)

TaskCard zu F13
(https://lfb-bw.taskcards.app/#/board/791bdfc1-0a03-4123-ae29-25730f5e250f/view?token=e3df39bc-4dae-43f1-9634-67867f9be77f)

Magiclink zur LFB-Suche für KI-Fortbildungen
(https://lfbo.kultus-bw.de/lfb/suche/5NQLKZJN)

Informationsangebot für Lehrkräfte
(https://km.baden-wuerttemberg.de/de/schule/digitalisierung/kuenstliche-intelligenz-im-unterricht)

FAQs zum Thema KI und Bildung:
(https://zsl-bw.de/,Lde/startseite/lernen-ueberall/ki-faq)



Wenn euch diese Episode gefallen hat:


Abonniert unseren Podcast


️ Bewertet den Podcast


Empfehlt uns weiter und teilt die Episode


Oder schreibt uns eure Kritik, Fragen und Anregungen aller Art
per E-Mail an podcast@zsl-bw.de


Mehr vom ZSL und dem KI-Zentrum Schule


Das ZSL ist eine Landesoberbehörde, die die Aus-
und Fortbildung von Lehrkräften verantwortet, sowie für Schulen
und Lehrkräfte weitere Unterstützungsnagebote bereitstellt und
übergreifende Aufgaben, wie die Erstellung von Bildungsplänen,
wahrnimmt. Das ZSL hat sechs Regionalstellen und fünf
Außenstellen.


Das KI-Zentrum Schule ist Teil des Referats
Digitalisierung, Medienbildung und beschäftigt sich mit dem Thema
Künstliche Intelligenz und schulische Bildung. Es hat seinen Sitz
am Innovation Park Artificial Intelligence (IPAI) in Heilbronn
und wurde in Kooperation mit der Dieter Schwarz Stiftung
eingerichtet. Das KI-Zentrum Schule arbeitet eng mit
verschiedenen Stakeholdern im Bereich Künstlicher Intelligenz,
vor allem aus der Wissenschaft und Wirtschaft, zusammen.


Schreibt „start digital“ an den Threema-Channel
*BC1WX37


️ Abonniert unseren Newsletter


Schaut euch unsere Angebote Bildung in der digitalen Welt auf
TaskCards an


Unsere KI-spezifischen Fortbildungsangebote findet ihr hier auf
LFB-O.


Datenschutzhinweise unter https://kultus-bw.de/datenverarbeitung
oder postalisch auf Anfrage.