Digitalgespräch

Die KI-Verordnung oder der „AI Act“ der EU, tritt seit Beginn 2025 sukzessive in Kraft und reguliert schon heute die Entwicklung und den Einsatz von KI-Systemen, die in Europa zum Einsatz kommen sollen. Mit dem umfangreichen Regelwerk stellt sich der Gesetzgeber einer großen Herausforderung: Die Wirkung von KI-Technologien, die über Staatsgrenzen hinweg massive Transformationen provozieren, soll in demokratischen Prozessen soweit beherrscht werden, dass große Risiken identifiziert und vermieden werden können. Dabei wird mitgedacht, dass sich der Gegenstand KI fortlaufen entwickelt und nicht losgelöst von seinem Anwendungskontext betrachtet oder bewertet werden kann. In der Praxis heißt das auch, dass sich sowohl Entwickler als auch Anwender von KI-Systemen auf neue Pflichten einstellen und verstehen lernen müssen, KI-Systeme nicht nur sinnvoll einzusetzen, sondern sie hinsichtlich ihrer Risiken im konkreten Einzelfall zu bewerten. Auch fordert der AI-Act explizit, bei Nutzerinnen und Nutzern spezifische KI-Kompetenz zu entwickeln. Dass neue Regulierung immer auch neuen Aufwand bedeutet, den Unternehmen, Behörden und Zivilgesellschaft nun betreiben müssen, ist klar. Dazu, dass das in der Breite gelingt, kann auch die Wissenschaft einen Beitrag leisten. Domenik Wendt ist Professor für Bürgerliches Recht, Europäisches Wirtschaftsrecht und Europarecht an der Frankfurt University of Applied Sciences und ausgewiesener Experte für das Recht der KI und den AI Act im Besonderen. Im Digitalgespräch erklärt er, was wesentliche Kernelemente des AI Acts sind und welche schon heute gelten. Er beschreibt, wie sich Unternehmen und Behörden aufstellen, um die Forderungen der EU umzusetzen, und welche Unterstützung es gibt, die KI-Verordnung zu verstehen und im eigenen Kontext zu befolgen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Wendt, wie Regulation und Kompetenzaufbau ineinandergreifen, wie es möglich ist, dass der AI Act zwar gewisse Anwendungen ganz verbietet und andere streng reguliert, aber dennoch mehr Raum für Innovation und Entwicklung zulässt, als manche vielleicht befürchten – und ob der AI Act in der Lage ist, auch angesichts tiefgreifender gesellschaftlicher Wirkungen von KI-Systemen Risiken zu reduzieren und Schaden abzuwenden. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-072-domenik-wendt Link zum Digitalgespräch Folge 48 "Der AI Act der EU: Wie er zustande kam und wie er KI reguliert" mit Domenik Wendt : https://zevedi.de/digitalgespraech-048-domenik-wendt/ Link zum KI-Service Desk der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/start_ki.html Link zum Hinweispapier „KI-Kompetenzen nach Artikel 4 KI-Verordnung“ der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/_functions/Hinweispapier.pdf?__blob=publicationFile&v=2 Link zum Paper „KI-Kompetenzanforderungen nach Art. 4 AI Act. – Juristische Analyse und praxisorientierte Maßnahmen“ unter Beteiligung der Frankfurt University of Applied Sciences: https://zenodo.org/records/17407983

Mit dem AI Act versucht der europäische Gesetzgeber einen schwierigen Balance-Akt: Einerseits ist effektive Regulierung hochriskanter, in der Entwicklung befindlicher Technologien nötig, die bereits heute gravierende gesellschaftliche Effekte zeitigen. Andererseits soll Europa an den Chancen ebendieser technologischen Entwicklung teilhaben, also nicht einfach bremsen, sondern gestalten. Ein Instrument dieser regulativen Innovationsförderung sollen KI-Reallabore oder „Sandboxes“ sein: Sie sind als besondere Testumgebungen für KI-Produkte kurz vor der Marktreife konzipiert, als behördliche Anlaufstelle und Unterstützung für Unternehmen und Startups – und auch als Lernfelder für die beaufsichtigenden Behörden, die ihre Verwaltungsprozesse an den unscharfen Gegenstand „KI“ anpassen müssen. Gelernt werden soll im und durch das Reallabor also einerseits, wie man KI-Anwendungen so designen kann, dass die Sicherheitsanforderungen des AI Act erfüllt werden, aber auch, wie man entsprechende Prüfkriterien klug in Verwaltungsprozessen abbilden sollte. Keine leichte Aufgabe für die EU-Mitgliedsstaaten, denen nicht viel Zeit bleibt, erste „AI Sandboxes“ zu realisieren: Am 2. August 2026 müssen diese neuartigen Behördentypen zumindest formal existieren und ins Arbeiten gekommen sein. Johannes Buchheim ist Professor für Öffentliches Recht und das Recht der Digitalisierung an der Philipps-Universität Marburg. Im Digitalgespräch erklärt der Experte für Verwaltungsrecht und Fragen der Rechtsordnung in der digitalen Gesellschaft, welche Funktion die KI-Reallabore bei der Umsetzung des AI Act einnehmen und welche Maßnahmen die EU dafür von ihren Mitgliedern fordert. Er beschreibt, welche Formen von KI-Reallaboren für unterschiedliche konkrete Technologien denkbar wären, wer sich mit der Entwicklung dieser öffentlichen Einrichtungen befasst, und was sich politische Entscheidungsträger davon erhoffen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Buchheim, welche Vorstellungen, Erwartungen und Befürchtungen bei den beteiligten Akteuren mitschwingen könnten, wie die Rahmenbedingungen für KI-Reallabore zu den Anforderungen von Wirtschaftsunternehmen im Wettbewerb passen, ob und wenn ja unter welchen Voraussetzungen die Teilnahme an Reallaboren für KI-Entwickler attraktiv ist – und wie mit Transparenz und Informationspflichten eine kritische Öffentlichkeit hergestellt werden muss, um diese Form staatlich finanzierter Ertüchtigung potentiell hochriskanter Technologien demokratisch zu legitimieren. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-071-johannes-buchheim Link zu Informationen zu KI-Reallaboren auf der Webseite der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/5_Innovationen/start.html

Das eBike ist wesentliches Element der Verkehrswende und vor allem für viele Pendler:innen eine echte Alternative zum Auto. Freilich sind E-Bikes deutlich teurer in der Anschaffung als ein klassisches Fahrrad. Kein Wunder also, dass die erste digitale Anwendung für das E-Bike dem Diebstahlschutz diente. Aber mit Bewegungs- und Sensordaten lässt sich rund ums Fahrrad – auch das ohne Motor – noch viel mehr machen. Vermessen lassen sich im Prinzip alle möglichen Parameter, sowohl des Fahrzeugs als auch des radelnden Menschen, und in einer zunehmend digitalen Umgebung kann man das Bike auch als vernetztes Gerät im Internet of Things denken. Automatisierung im Straßenverkehr ist dabei ein wichtiges Stichwort. Und: Jenseits ihres Nutzens für individuellen Komfort bei hinreichender persönlicher Begeisterung für digitale Tools und Gadgets, sind aussagekräftige Daten aus dem Radverkehr auch von hohem Wert für die Verkehrsplanung einerseits – und die Entwicklung innovativer Geschäftsmodelle andererseits. Rainer de Mey ist Chief Digital Officer beim eBike-Hersteller Riese & Müller, einem Unternehmen mit Erfahrung in der Digitalisierung für das Radfahren. Im Digitalgespräch beschreibt der Experte, welche digitalen Anwendungen heute für das Rad zur Verfügung stehen, wie sich die Bedürfnisse der sehr verschiedenen Gruppen von Radler:innen entwickeln, welche Daten fürs digitalisierte Radfahren erhoben werden und wie sie von wem genutzt werden können. De Mey erklärt, welche Grenzen kleinen und mittleren Unternehmen in Sachen digitaler Entwicklung gesetzt sind, und welche Bedarfe bei Kund:innen in Zukunft zu erwarten sein könnten. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert de Mey auch, wo Digitalisierung am Fahrrad sinnvoll ist und wo eher Spielerei, was nötig sein wird, um Fahrraddaten für Stadtplanung und Verkehrssicherheit zu nutzen – und ob dabei der gänzlich undigitale Drahtesel bald auf der Strecke bleibt. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-070-rainer-de-mey Link zur Webseite des LOEWE Schwerpunkts _DyNaMo_ der Universität Kassel: https://www.uni-kassel.de/forschung/dynamo.html Link zur Webseite des Datenportals „Radverkehr in Deutschland“, über das eine Ausgründung der Technischen Universität Dresden Verkehrsdaten aus den STADTRADELN-Kampagnen bereitstellt: https://www.radverkehr-in-deutschland.de/

Cyber-Angriffe gehören heute zur Normalität, und ihre Abwehr sowie die permanente Anpassung von IT-Systemen an neue Sicherheitslücken zum Alltag in großen und kleinen IT-Abteilungen. Zu den ganz Großen gehören auch Hochschulrechenzentren, die ein weit verzweigtes Netzwerk aus etlichen Abteilungen und Standorten managen müssen. Dass innerhalb historisch gewachsener Hochschulstrukturen mitunter ganz unterschiedliche Anforderungen und Voraussetzungen bestehen, macht die Aufgabe, tausenden Mitarbeitenden und zehntausenden Studierenden jederzeit zuverlässige, sichere und nutzerfreundliche Dienste bereitzustellen, nicht gerade einfacher. Wie massiv schwere Cyber-Attacken den Hochschulbetrieb treffen können, musste die Justus-Liebig-Universität Gießen schmerzlich erfahren, als sie im Dezember 2019 als erste deutsche Hochschule Opfer eines Ranson-Ware-Angriffs wurde. Seither ist das Bewusstsein für den Stellenwert von IT-Sicherheit in öffentlichen Einrichtungen gestiegen und Hochschulen widmen diesem Thema wachsende Aufmerksamkeit und Ressourcen. Was genau passierte damals? Welche Auswirkungen hatte der Angriff auf die Universität, und was hat man daraus für Lehren gezogen? Matthias Stenke hat die stellvertretende Leitung und operative Leitung der IT-Sicherheit an der Justus-Liebig Universität Gießen inne, und leitet zudem die Stabsstelle für Enterprise Architecture Management der Hochschule. Im Digitalgespräch erklärt der Experte für IT-Sicherheit aus erster Hand, wie sich der Hacking- Angriff auf die JLU Gießen im Dezember 2019 ereignete, welche Strategie die Angreifer verfolgten, wie Verantwortliche und Unterstützer:innen reagierten, und wie es gelang, trotz des gewaltigen Ausmaßes der Schäden gestärkt aus dieser Krise hervorzugehen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Stenke, welche Rolle Solidarität und gute Kommunikation dabei spielten, und warum IT Sicherheit an Hochschulen kein Thema nur für Expert:innen ist, sondern angesichts zunehmender Bedrohungen alle Mitglieder einen Beitrag leisten müssen. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-069-matthias-stenke Link zum im Gespräch erwähnten Artikel „#JLUoffline. Der Cyber-Angriff auf die Justus-Liebig-Universität Gießen im Dezember 2019“ in der ABI Technik: https://www.degruyterbrill.com/document/doi/10.1515/abitech-2022-0005/html?lang=de