Digitalgespräch Archiv

Die Abhängigkeit der Unternehmen und Verwaltungen von außereuropäischen Technologie-Anbietern ist in den letzten Jahren deutlich spürbar. Auch Hochschulen gegenüber nutzen große Firmen, die mit wenig bis keiner Konkurrenz für den wissenschaftlichen Alltag praktisch unverzichtbare Soft- und Hardware bereitstellen, ihre Position offenbar bewusst aus: Sie drehen gezielt an Preisschrauben, setzen den Hochschulen komplizierte Lizenzmodelle vor, zwingen ihnen neue Produkttypen auf und stabilisieren so nicht zuletzt ihre Präsenz im Alltag der Anwender:innen; Studierende erzieht das fast automatisch zu dauerhaften Kund:innen von Google, Microsoft, Adobe & Co. Auswege aus dieser Zwangslage sind nur schwer zu finden, denn die Hochschulen haben kaum Verhandlungsmacht. Ihr Auftrag lautet "Forschung und Lehre", Extra-Invest in teure Change-Prozesse ist nicht vorgesehen. So müssen sie immer mehr ihres knappen Budgets für die Bereitstellung der dringend benötigten Technik vorsehen. Längst beginnt das Geld für die IT anderswo zu fehlen, und auch Datenschutzstandards und Nutzungsbedingungen, zu denen IT-Riesen ihre Produkte bereitstellen, sind an vielen Stellen fragwürdig – eine Gefahr für freie Forschung und Lehre. Zwar existieren Alternativen, etwa Open Source-Lösungen, oder europäische Produkte, die zu besseren Konditionen eingesetzt werden könnten, aber eine Umstellung aller Mitarbeiter:innen und Systeme auf bisher wenig erprobte Neuerungen wäre komplex, im Normalbetrieb kaum durchsetzbar, und für einzelne Einrichtungen nicht ohne Risiko. Hilft es, sich zusammenzuschließen? Muss die Politik – anders – handeln? Und wissen alle Beteiligten, was auf dem Spiel steht? Ramin Yahyapour ist Professor für E-Science und praktische Informatik an der Georg-August-Universität Göttingen und leitet die Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen, die der Universität wie auch der Max-Planck-Gesellschaft als Rechenzentrum und IT-Kompetenzzentrum dient. Der renommierte Experte für Hochleistungsrechnen, Cloud-Anwendungen und Datenmanagement engagiert sich seit vielen Jahren für digitale Souveränität. Im Digitalgespräch schildert Yahyapour die Lage, in der sich Hochschulen zurzeit als Kundinnen von Technologieanbietern befinden, ordnet Entwicklungen ein und macht die Bedeutung digitaler Souveränität für Hochschulen klar. Er zeigt auf, welche Maßnahmen helfen könnten, Abhängigkeiten aufzulösen und welche Hürden dabei im Weg stehen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Yahyapour, wer aktiv werden muss und mit welchen Strategien Stück für Stück Spielräume entstehen könnten, wenn das Bewusstsein für die Problematik wächst und mutige Schritte gegangen werden. Link zum Originalbeitrag: https://zevedi.de/digitalgespraeach-055-ramin-yahyapour Link zu Ramin Yahyapours Profil auf der Webseite der Universität Göttingen: https://www.uni-goettingen.de/de/635175.html Link zur Webseite der Gesellschaft für Wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG) https://gwdg.de/ Link zur Broschüre „Sicherstellung der digitalen Souveränität und Bildungsgerechtigkeit. Empfehlungen zur Ausgestaltung von Rahmenbedingungen für die Nutzung von Cloud-basierten Angeboten im Bildungsbereich“ der Zentren für Kommunikation und Informationsverarbeitung in Lehre und Forschung (ZKI e. V.): https://www.zki.de/fileadmin/user_upload/ZKI-Digitale_Souveraenitaet-2022-V2.pdf

Wir nutzen den Weltraum für unser Leben auf der Erde. Auch der Ausbau der digitalen Infrastrukturen auf der Erdoberfläche hat zur Folge, dass immer mehr technische Objekte ins All befördert werden. Navigation ohne GPS ist kaum noch vorstellbar. Ebenso nutzen Telefondienste und Wetter-Apps Weltraumtechnik – und die Datenströme eines Internets der Zukunft werden wahrscheinlich nicht mehr hauptsächlich durch lange Kabel geleitet werden, sondern mittels Konstellationen tausender Satelliten, die um den Erdball herum angeordnet sind. Mittlerweile umkreisen unseren Planeten aber vor allem Reste kaputter Weltraumtechnik, die den immer dichter werdenden Verkehr wichtiger Sonden und Satelliten massiv behindern. Es handelt sich um eine unbeabsichtigte Folge der menschlichen Raumfahrt, dass Weltraumschrott die künftige Nutzung des Weltalls sogar gefährdert. Hinzu kommt das "Wetter" im All: Auch hiervon sind digitale Infrastrukturen zunehmend betroffen, die für die Sicherheit der Systeme auch auf der Erde sorgen. Wer kümmert sich um diese Probleme? Und wie kann man dafür sorgen, dass Raumfahrt die Satellitenversorgung der digitalen Gesellschaft weiterhin sicherstellen kannn? Dr. Holger Krag leitet am Europäischen Raumflugkontrollzentrum, dem ESOC, das ESA-Programm für Weltraumsicherheit, das sich auch mit Weltraumschrott und Weltraumwetter intensiv befasst. Im Digitalgespräch beschreibt der Experte die Szenerie um unseren Erdball herum und schildert, wie sich die Anforderungen an die Raumfahrt in den letzten Jahrzehnten insbesondere durch die digitale Transformation verändert haben. Er nennt Strategien im Umgang mit neuen Sicherheitsrisiken und Regelungsbedarfe, beschreibt technische Lösungen und offene Forschungsfragen. Mit den Gastgeberinnen Petra Gehring und Marlene Görger diskutiert Krag, ob die weltpolitische Lage auch die Weltraumsicherheit gefährdet, welchen Einfluss private Akteure auf die Entwicklung der Raumfahrt haben und was auf dem Spiel steht, wenn die aktuellen Probleme nicht gelöst werden können. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-054-holger-krag/ Link zur Webseite der Europäischen Weltraumorganisation ESA mit Berichten und Hintergründen zu Weltraumschrott: https://www.esa.int/Space_Safety/Space_Debris Link zur Webseite der Europäischen Weltraumorganisation ESA mit Berichten und Hintergründen zu Weltraumwetter: https://www.esa.int/Space_Safety/Space_weather

Der Medienwandel ist längst vollzogen. Damit hat sich in Sachen „News“ eine komplizierte Gemengelage entwickelt: Das Internet ist zu einem Marktplatz der Aufmerksamkeit geworden, und prinzipiell kann jede und jeder über soziale Medien, Webseiten oder Chatkanäle „Content“ verbreiten. Quellen für Nachrichten und Informationen über das öffentliche Leben sind also längst nicht mehr beschränkt auf Zeitungsredaktionen und Rundfunkanstalten, die seriös journalistisch arbeiten – im Gegenteil werden solche etablierten Medien zunehmend von alternativen Anbietern verdrängt. Diese verfolgen teilweise mehr oder weniger offen wirtschaftliche oder politische Interessen, die mit der Einhaltung journalistischer Standards unvereinbar sind, und in der Vielzahl der Stimmen im Netz verbreiten etliche gezielt falsche oder irreführende Meldungen. Derlei Desinformation ist ein Problem für den demokratischen Diskurs, führt zu Verunsicherung und Spaltung und hat direkte Auswirkungen in der Realität, die mitunter schwer oder gar nicht mehr einzufangen sind. Solche Effekte sind von den Institutionen, die Desinformation verbreiten, beabsichtigt und bereits in der Breite sichtbar, sie werden durch automatisierte Prozesse, Algorithmen und generative KI verstärkt. Wie können wir als Gesellschaft auf diese Entwicklung reagieren, und welche Rolle hat der Journalismus und haben Medienschaffende dabei? Christian Stöcker ist Journalist, Autor und Professor für Digitale Kommunikation an der Hochschule für Angewandte Wissenschaften Hamburg, wo er den Master-Studiengang „Digitale Kommunikation“ leitet. Zuvor verantwortete er bei SPIEGEL ONLINE das Ressort Netzwelt. Der Experte für digitale Medien und ihre gesellschaftlichen Auswirkungen erklärt im Digitalgespräch die Transformation der Medienlandschaft, die wir in den letzten Jahrzehnten vollzogen haben, gibt Einblicke in Funktionsweisen und Hintergründe zentraler Online-Plattformen und zeigt Verknüpfungen mit aktuellen politischen und sozialen Entwicklungen auf. Er beschreibt, welche Auswirkungen das Vorhandensein von Desinformation auf das Berufsbild des Journalismus hat und wie junge Medienschaffende darauf vorbereitet werden. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Stöcker das Szenario, das uns erwartet, wenn die Desinformations-Strategien weiterhin erfolgreich sind, welche Maßnahmen dagegen ergriffen werden könnten – und welchen Regeln sich alle unterwerfen sollten, die die Möglichkeiten eines demokratischen Diskurses erhalten und die Schäden eindämmen wollen. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-053-christian-stoecker Link zur im Gespräch erwähnten Studie von Soroush Vosoughi et. al von 2016 zur Verbreitung von Desinformation in Online-Medien: https://www.science.org/doi/10.1126/science.aap9559 Link zur im Gespräch erwähnten Initiative „Klickwinkel“: https://klickwinkel.de/ Link zur im Gespräch erwähnten Initiative „Use the News“: https://www.usethenews.de/de

In den Trainingsdaten für Systeme generativer KI finden sich Abermillionen urheberrechtlich geschützter Werke. Die Inhaber:innen der Rechte an diesem Material sind weder gefragt worden, ob sie dieser Form der Verwertung zustimmen, noch wurden sie dafür bezahlt. Dass Texte, Bilder und Musikstücke im Internet öffentlich verfügbar sind, feiern viele als Errungenschaft für freie Bildung und Teilhabe am kulturellen Reichtum der Menschheit. An profitorientierte Firmen, die auf dieser Basis große Sprachmodelle entwickeln, hat man dabei freilich nicht gedacht. Nun drohen KI-Systeme, die ihre Ergebnisse auf Grundlage gratis abgesammelter Inhalte produzieren, genau die Kreativen zu ersetzen, deren Kreativprodukte sie nutzen. Verlage und Verwertungsgesellschaften sind unter Druck. Sie versuchen, Regeln für den Umgang mit KI im professionellen Arbeitsprozess zu entwickeln und die Rechte der von ihnen vertretenen Kulturschaffenden zu schützen – vor allem gegenüber außereuropäischen Konzernen, die die technische Entwicklung dominieren. Welche Rechte können Autor:innen, deren Werke bereits in den Trainingsdaten von GPT und Co. auftauchen, in dieser komplexen Lage überhaupt noch einfordern? Wie hoch ist der Preis für KI, wenn das Urheberrecht in diesem Bereich nicht zählt? Wie lässt sich menschliche Kreativarbeit zukünftig vor der Verwertung durch IT-Konzerne schützen? Nina George ist Schriftstellerin, Übersetzerin und Moderatorin. Seit vielen Jahren setzt sie sich in politischen Prozessen aktiv für die Rechte von Künstler:innen und Kulturschaffenden ein, etwa als Präsidentin des European Writers‘ Council. Im Digitalgespräch schildert die Expertin Herausforderungen, mit denen sich Kreative und Schreibende durch die Entwicklung generativer KI konfrontiert sehen und welche Player dabei zentral sind. Sie beschreibt, welche Interessen unterschiedliche Akteure in aktuellen Aushandlungsprozessen verfolgen, macht Vorwürfe und Forderungen gegen Politik und KI-Entwickler klar und zeigt mögliche Zukunftsszenarien auf. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert George, ob ein vernünftiger Umgang mit generativer KI in der Kreativwirtschaft denkbar ist, und welche Lebenswirklichkeiten der Streit um den Wert menschlicher Urheberschaft und Kulturleistung betrifft. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-052-nina-george Zur Webseite des European Writers‘ Council: https://europeanwriterscouncil.eu/ Zur Webseite des Netzwerks Autorenrechte http://www.netzwerk-autorenrechte.de/

Dass große Sprachmodelle Text generieren können, ist bekannt. Seit der Veröffentlichung von ChatGPT im November 2022 haben praktisch alle Menschen mit Internetzugang die Möglichkeit, Texte maschinell erzeugen zu lassen. Davon wird rege Gebrauch gemacht, um menschliche Schreibarbeit zu ersetzen, was sich ebenfalls bemerkbar macht und die Öffentlichkeit breit diskutiert. Dabei stehen besorgniserregende Entwicklungen im Fokus, etwa negative Auswirkungen auf Menschen, die vom Schreiben leben nun die ihre berufliche Rolle bedroht sehen. Auch entstehen Schwierigkeiten im Bildungsbetrieb, wenn Schüler:innen oder Studierende unliebsame Übungsaufgaben von Maschinen erledigen lassen, und automatisch generierte Desinformation ist ein massives Problem für demokratische Gesellschaften. Weitaus weniger Aufmerksamkeit erhält die Frage, wie KI von Menschen produktiv und kreativ für Schreibprozesse eingesetzt werden kann, wenn das Schreiben als solches nicht delegiert wird, sondern transformiert als menschliche Ausdrucksform erhalten bleibt: Schriftsteller:innen, die offen und experimentierfreudig mit KI-Tools umgehen, entwickeln neue Schreibpraktiken, die klug geplant und angewandt das eigene Schaffen beflügeln können und interessante Arbeiten hervorbringen. Aber: nicht alle Literaturformen eignen sich gleichermaßen für den Einsatz von KI. Und: Leser:innen müssen sich nicht nur fragen, ob und warum es ihnen wichtig ist, ob KI beim Schreiben benutzt wurde und woran sie erkennen, welche Texte von Menschen verfasst und welche KI-generiert sind, sondern auch, wie sie gute „KI-Literatur“ von schlechter unterscheiden. Jenifer Becker ist Literatur- und Kulturwissenschaftlerin an der Universität Hildesheim, dort forscht und lehrt sie unter anderem zu digitaler Literatur und dem Einsatz von KI im Schreibprozess. Als Autorin und Künstlerin arbeitet und experimentiert sie auch selbst mit neuronalen Netzen und Sprachmodellen. Im Digitalgespräch erklärt die Expertin, wie KI-Tools den Schreibprozess unterstützen und wie sich je nach Einsatzweise die schriftstellerische Aufgabe verändert. Sie beschreibt die literarische Landschaft, in der KI-Produkte schon heute einen festen Platz haben und welche kritischen Stimmen es angesichts dieser Entwicklungen gibt, macht deutlich, worin die Eigenheiten KI-produzierter Literatur bestehen und gibt Hinweise, wie man sie erkennt. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Becker, welche Vorbehalte gegenüber dem Einsatz von KI im Schreibprozess vielleicht unbegründet sind und welche Aspekte tatsächlich problematisch sein können, was junge Schriftsteller:innen bei der Arbeit mit KI beachten sollten und wie die Zukunft der Literaturproduktion und -rezeption aussehen könnte, wenn sich KI als Schreib-Gerät normalisiert hat. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-051-jenifer-becker Link zu „Alpha Centauri in Ewigkeit“, einem Textprojekt, an dem Jenifer Becker im Kollektiv mit ChatGPT, Juan S. Guse, Albert Heinrichs gearbeitet hat: https://www.fischerverlage.de/magazin/neue-rundschau/alpha-centauri-ewigkeit Link zu einem Artikel von Jenifer Becker, der einen Überblick übr die Nutzung von KI in der Literatur gibt: https://blog.degruyter.com/ai-literature-will-chatgpt-be-the-author-of-your-next-favourite-novel/

Am 26. Mai 2021 ist das erste Digitalgespräch ausgestrahlt worden. Drei Jahre und 50 Folgen später hat sich der Podcast als Raum eines offenen und wissenschaftlich informierten Diskurses zu Themen der „Digitalität” etabliert. Anlässlich des kleinen Jubiläums möchten wir kurz innehalten und reflektieren – und deshalb haben die beiden Gastgeberinnen des Digitalgespräches, Petra Gehring und Marlene Görger, für diese Folge die Seiten gewechselt und geben Auskunft. Das Digitalgespräch ist mit dem Programm angetreten, Scheinwerfer auf komplexe Handlungsfelder zu werfen, so „dass sich der Nebel großer Schlagworte lichtet”. Die Methode: Im Gespräch mit Expertinnen und Experten spezifisches Wissen aus verschiedenen Arbeitsgebieten und Forschungsperspektiven sammeln und langsam die Teile zusammenfügen. So kamen unterschiedlichste Facetten des Digitalen auf die Tagesordnung: Smart Contracts, digitale Forensik, Restauration digitaler Kunstwerke, der Umgang mit sensiblen Forschungsdaten oder das Trauern und Sterben im digitalen Zeitalter. Deutet sich – angesichts des komplexen und uneinsehbaren Themenfelds des „Digitalen” – bereits ein Bild an, ein Zusammenhang, eine kohärente Erkenntnis? Oder wächst die Zahl der Teile ungleich schneller, als dass man sie zusammensetzen könnte? In der Bonusfolge kommen die Macherinnen im kleinen Darmstädter Aufnahmestudio mit den beiden ZEVEDI-Wissenschaftsredakteuren Eneia Dragomir und Konstantin Schönfelder ins Gespräch. Wo hat sich nach 50 Folgen Digitalgespräch der Nebel gelichtet und wo war von Dingen zu hören, die vielleicht erst in Zukunft ins Sichtfeld einer breiteren Öffentlichkeit gelangen? Was ist gut gelaufen, was weniger gut und wo darf es in den nächsten 50 Folgen hingehen? Marlene Görger ist studierte Physikerin und Technikphilosophin, seit 2020 arbeitet sie am Zentrum verantwortungsbewusste Digitalisierung. Petra Gehring ist Professorin für Philosophie an der Technischen Universität Darmstadt sowie wissenschaftliche Direktorin des Zentrums. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-bonusfolge-seitenwechsel

Der Ausdruck „Digitaler Zwilling“ stammt aus dem Engineering. Dort beschreibt er digitale Modelle, mit denen in der sogenannten „Industrie 4.0“ reale technische Anlagen oder Prozesse abgebildet, optimiert und simuliert werden. Solche Modelle sind heute weit verbreitet. Noch nicht realisiert ist die Vorstellung, über technische Systeme hinaus könnten auch einzelne Menschen oder Gruppen solche virtuellen Repräsentationen haben, aus der man ihre „Systemzustände“ ablesen kann. Optimieren könnte man an einem solchen ganzheitlichen Modell z. B. den Gesamtzustand „Gesundheit“. Benötigt würden für einen Körper-Zwilling, der vielleicht auch „Verhalten“ mit umfasst, sehr viele Daten und komplexe Software. Entsprechende Ideen gibt es freilich, und einige der Visionen gehen so weit, das digitale Abbild einer ganzen Person mit Körperdaten und auch mentalen Eigenschaften zu imaginieren. Dabei ist die Hoffnung, man könne so die Entwicklung des Gesundheitszustandes vorausschauend steuern oder bei Krankheit individuelle Behandlungskonzepte planen. Ein „Digitaler Zwilling“ würde auch Verhaltensratschläge für optimale Körperfunktionen und Leistungsfähigkeit geben können. Er würde sein menschliches Gegenstück potentiell ein Leben lang begleiten, vermessen und durch seinen Einfluss auch: formen. In der Fachwelt galten solche Ideen bisher als Gedankenspiele. Aber: Die EU plant für die medizinische Versorgung ihrer Bürger:innen nun tatsächlich „European Virtual Human Twins“ einzuführen – jedenfalls wird gesetzlich der Weg hierfür freigemacht. Wie verträgt sich eine solche Vision mit unserem aktuellen Datenschutz? Und was folgt daraus für ein sozial gerechtes und demokratisches Gesundheitssystem, wenn es weiterhin unterschiedliche Lebensentwürfe und Wertvorstellungen respektieren soll? Malte Gruber ist Professor für Bürgerliches Recht und Rechtsphilosophie an der Justus-Liebig-Universität Gießen und befasst sich in seiner Arbeit unter anderem mit Informationsrecht und Recht der digitalen Ökonomie, außerdem mit Technikrecht und Recht der Lebenswissenschaften. Im Digitalgespräch beschreibt der Experte, welche Konzepte von „Digitalen Zwillingen“ in aktuellen Debatten und Entwicklungen eine Rolle spielen, was die Initiative der EU-Kommission motiviert und welche rechtlichen und gesellschaftlichen Fragen sich stellen, wenn entsprechende Visionen realisiert werden sollen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Gruber, wie zwischen Hype und Dystopie realistische Szenarien aussehen könnten, welche Aspekte in der aktuellen Diskussion noch wenig Beachtung finden und was die Vision vom zukünftigen Medizinprodukt „Digitaler Zwilling“ über unser gegenwärtiges Verhältnis zu unseren Körpern verrät. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-050-malte-gruber Link zur Ankündigung der "European Virtual Human Twins Initiative" der EU Kommission: https://digital-strategy.ec.europa.eu/en/policies/virtual-human-twins

Mit Methoden „Künstlicher Intelligenz“ ist es heute möglich, große und größte Ansammlungen von Dateien ganz unterschiedlicher Formate zu vergleichen, zu systematisieren und auszuwerten. Ein Meilenstein auch für Ermittlungsbehörden: IT-Expert:innen können aus Datensätzen, die ohne technische Hilfsmittel für Fahnder:innen unmöglich zu sichten und auszuwerten wären, relevante Informationen herausfiltern und Zusammenhänge herstellen. Ein berühmtes Beispiel für einen solchen gigantischen Datensatz und seine erfolgreiche Bewältigung sind die sogenannten Panama Papers: Ein Datenleck und also eine „Steuer-CD“, die im Jahr 2016 etwa 11,5 Millionen Dokumente oder 2,6 Terabyte Daten enthielt, und weltweit Fälle von Steuerbetrug und Geldwäsche dokumentierte. Inzwischen sind etliche weitere solcher Leaks dazugekommen, etwa 2021 die nochmals umfangreicheren Pandora-Papers. Für Steuerfahndung und Finanzaufsichtsbehörden bedeutete das, aus Millionen von Emails, Datenbanken, PDFs, Bildern und sonstigen Dateien diejenigen identifizieren zu müssen, die für die eigene Zuständigkeit relevant waren. KI hat die Verfolgung der in den Daten aufgedeckten Straftaten letztlich wohl überhaupt erst möglich gemacht, wobei sich die zugrundeliegenden Technologien seitdem sprunghaft weiterentwickeln. KI ist also ein mächtiges Instrument auch staatlichen Handelns, mit dem die Nadel im Heuhaufen leicht gefunden werden kann. In einem Rechtsstaat ist es umso mehr von entscheidender Bedeutung, für welche Zwecke der KI-Einsatz zum Zuge kommen darf. Christian Voß ist Bereichsleiter der Forschungsstelle Künstliche Intelligenz (FSKI), die 2019 am Finanzamt Kassel eingerichtet wurde. Im Digitalgespräch erklärt der Informatiker und KI-Experte, wie diese Einrichtung zustande kam, welche Aufgaben sie hat und wie KI die Steuerfahndung unterstützt. Er beschreibt, welche Maßnahmen zur Auswertung von Leaks wie den Panama Papers nötig sind, wie Software-Lösungen für spezifische Problemstellungen entstehen, welches Wissen Fachkräfte brauchen und wie sein interdisziplinäres Team mit anderen Behörden und auch der Universität zusammenarbeitet. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Voß das Spannungsfeld zwischen Datenschutz und Strafverfolgung, den Mehrwert, den hier Open-Source-Lösungen bringen, und ob nicht nur die Kriminalität, sondern auch der Rechtsstaat durch den technischen Fortschritt im IT-Sektor herausgefordert ist.

Mit ihrem AI Act hat die EU hat den ersten umfassenden regulatorischen Rahmen für Systeme „Künstlicher Intelligenz“ auf den Weg gebracht. Ein ehrgeiziges, herausforderndes und drängendes Vorhaben: Die rasante, technische Entwicklung findet global statt, vor allem außerhalb von Europa. KI wird bereits in allen Lebensbereichen eingesetzt, mit unbestreitbaren ökonomischen Vorteilen, aber auch offensichtlichen Risiken für die liberale Demokratie und ihre Werte. Welche Technologien als „Künstliche Intelligenz“ gelten, ist dabei nicht klar umrissen. Vielmehr versammeln sich unter dem unscharfen Buzzword alle möglichen IT- und Robotik-Systeme, deren Leistung über die herkömmlicher Automatisierung hinausgeht. Ein Gesetzesrahmen, wie er jetzt in Europa gelten soll, muss klug angelegt und flexibel sein, um dieser komplexen Lage gerecht zu werden. Ist das mit dem großen Wurf der europäischen KI-Verordnung gelungen? Domenik Wendt ist Professor für Bürgerliches Recht, Europäisches Wirtschaftsrecht und Europarecht an der Frankfurt University of Applied Sciences und Experte für Recht der KI. Die Entstehung des AI Acts hat er von Anfang an eng verfolgt und dabei sowohl eine wissenschaftliche als auch eine praxisorientierte Perspektive eingenommen. Im Digitalgespräch beschreibt er den Prozess, den die Verordnung durchlaufen hat: Vom Kontext ihrer Entstehung und der zugrundeliegenden Idee und Zielsetzung über die heißen Diskussionen zwischen den beteiligten Akteuren mit ihren verschiedenen Interessen und politischen Grundhaltungen bis hin zu den Inhalten des finalen Entwurfs, der nun verabschiedet werden soll. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Wendt, wie der AI Act international aufgefasst und bewertet wird, ob Kritiker:innen zurecht Schwachstellen sehen, und welche Arbeit nun auf Unternehmen, Jurist:innen und Wissenschaftler:innen zukommt, um diesen abstrakten Rechtsrahmen auch in die Wirklichkeit umzusetzen. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-048-domenik-wendt Weitere Informationen: Zur Pressemitteilung „Rahmen für Künstliche Intelligenz in der EU steht: KI-Verordnung einstimmig gebilligt“ des Bundesministeriums für Justiz vom 2. Februar 2024: https://www.bmj.de/SharedDocs/Pressemitteilungen/DE/2024/0202_KI-VO.html?cms_mtm_campaign=linksFromNewsletter Webseite des Research Lab for Law and applied Technologies: https://www.frankfurt-university.de/de/hochschule/fachbereich-3-wirtschaft-und-recht/forschung-und-transfer/forschungslabore/rellate/

Risiken, die vom KI-Einsatz ausgehen, werden breit diskutiert. Beispiele reichen von möglichen Fehldiagnosen in der medizinischen Behandlung über Diskriminierung bei der Jobsuche bis hin zu Gefahren für demokratische Systeme oder Verletzung der Menschenwürde. Vor allem existenzielle Bedrohungen, die insbesondere von generativer KI ausgehen sollen und die ihre Hersteller selbst nicht müde werden, zu betonen, sorgen für hitzige Debatten. KI-Systeme entstehen und agieren aber nicht von selbst: An ihrer Entwicklung, ihrer Verbreitung und ihrem Einsatz sind zumindest im Moment immer Menschen beteiligt, und Menschen tragen nach wie vor Verantwortung dafür, wie die Systeme aufgebaut sind, was sie tun und was mit den Ergebnissen geschieht. Aber haften sie auch, wenn Fehler passieren? Wer verantwortlich gemacht wird, wenn durch ein KI-System ein konkreter Schaden entsteht, ist nicht leicht zu entscheiden und unsere Rechtslage hat auf diese Frage noch keine klaren Antworten. Das soll sich bald ändern: Die EU ist gerade dabei, mit dem AI Act eine Produkthaftung für KI zu etablieren. Was sind Punkte, mit denen sich Anwält:innen und Gesetzgeber:innen bei Haftungsfragen des KI-Einsatzes auseinandersetzen müssen? Und wie gut knüpft entstehendes KI-Recht an unsere bestehende Rechtsauffassung an? Carsten Gerner-Beuerle ist Professor of Commercial Law am University College London. Der Rechts- und Wirtschaftswissenschaftler ist Experte für internationales Gesellschafts-, Privat- und Kapitalmarktrecht und hat Regulierungsvorhaben der EU Kommission und des EU Parlaments unterstützt. Im Digitalgespräch schildert er die unklare Haftungslage, in der KI zum Einsatz kommt und wie sie sich auf die Praxis auswirkt, erklärt die rechtlichen Hintergründe für diese komplexe Situation, beschreibt, wie unterschiedliche Rechtssysteme mit Risiken durch KI-Einsatz umgehen und zeigt die Strategie auf, die die EU mit dem AI Act verfolgt. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Gerner-Beuerle, worin die Eigenschaften von KI bestehen, die sie von „gewöhnlichen“ Produkten unterscheiden, worin typische Risiken beim Einsatz von KI-Systemen bestehen und wie weit das Konzept der Haftung auch als Instrument der Regulierung funktionieren könnte. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-047-carsten-gerner-beuerle

Das sogenannte „Internet der Dinge“ sorgt dafür, dass in unserer Umgebung digitale Prozesse wie von selbst ablaufen. Vernetzte Geräte lösen reale Ereignisse aus, sammeln ganz unterschiedliche Daten, und kombiniert mit Sensoren, Mikrofon- und Kameratechnik stellen Sie Informationen in ungeahnter Menge bereit. Diese Vernetzung kann unsere Arbeit erleichtern, in jedem Fall verändern und auch ganz neue alltägliche Aufgaben entstehen lassen, schafft neue Möglichkeiten, stellt dabei aber auch eigene Bedingungen für unser Leben her: Sie transformiert Arbeitsplätze und Freizeitangebote, verändert unsere Mobilität, wie wir kommunizieren und – mal mehr, mal weniger subtil – worauf wir unsere Aufmerksamkeit richten. Hier Neuerungen tatsächlich umzusetzen ist eine spannende und komplexe Aufgabe für die Praxis. Welche Möglichkeiten haben wir, Dinge auszuprobieren und auszuhandeln, und dabei gleichzeitig „echte“, einsatzreife Technologien zum Einsatz zu bringen? Das Stadion des Fußballvereins Eintracht Frankfurt soll seit einiger Zeit für das Rhein-Main-Gebiet als ein solches Experimentierfeld dienen. Eine große Sportstätte und das Management von Fußballereignissen als Labor der Digitalisierung – mit Respekt vor den Traditionen und Werten des Vereins und den Ansprüchen seiner Mitglieder und Fans. Wie das gelingen soll und welche Ideen, Projekte und Ziele dahinterstehen, ist Thema dieses Digitalgesprächs. Dr. Oliver Bäcker leitet das Digitalzentrum „Arena of IoT“ bei der EintrachtTech, der Digitaltochter des Fußballvereins Eintracht Frankfurt. Im Digitalgespräch gibt der Experte für Innovations- und Technologiemanagement Einblicke in konkrete Projekte und Entwicklungen, die im Stadion und darum herum entstehen. Bäcker beschreibt, welche Hintergründe der besondere Digital-Schwerpunkt der Eintracht hat, wie Werte und Interessen des Vereins in die Ausgestaltung konkreter Innovationen einfließen und wie Mitglieder und Fans dabei einbezogen werden. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Bäcker, welche Projekte besonders viel Aufmerksamkeit von Politik und Öffentlichkeit erfahren, ob die sportliche Konkurrenz zwischen Fußballclubs sich auch auf digitale Innovationen ausweitet – und welche Bedeutung das Analoge weiterhin hat und auch behält. Link zur Webseite des Digitalzentrums Arena of IoT der EintrachtTech: https://klub.eintracht.de/eintrachttech/digitalzentrum-arena-of-iot

Daten auf einer vermeintlich zerstörten Festplatte auslesen, den Bordcomputer eines verunfallten PKW ausbauen, versteckte Dateien auf einem Smartphone finden – in der digitalen Gesellschaft brauchen Ermittler:innen zur Aufklärung von Straftaten oft Unterstützung von IT-Expert:innen. Für diese „Digitale Forensik“ gibt es spezielle Ausbildungen, die technisches Knowhow mit juristischen Kenntnissen vereinen. Doch verglichen mit den etablierten Praktiken besonnener Sicherung und kluger Auswertung von Spuren, für die die klassische Forensik auf der Erfahrung ganzer Generationen von Ermittler:innen und Wissenschaftler:innen aufbaut, ist die forensische Informatik eine sehr junge Disziplin, die sehr anpassungsfähig sein muss: Innovationen und neue Systeme bringen permanent neue Klassen digitaler Spuren mit sich – aber auch Herausforderungen für Forschung und Praxis der Digitalen Forensik, denn Forensiker:innen und auch Polizist:innen müssen für die Digitalität nachhaltig geschult werden. Felix Freiling ist Professor für IT-Sicherheitsinfrastrukturen an der Friedrich-Alexander-Universität Erlangen-Nürnberg und Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation (bidt). Im Digitalgespräch erklärt der gefragte Experte, wie man richtig mit digitalen Asservaten umgeht und was man in der Ausbildung für Digitale Forensik noch lernt, erzählt von Beispielen aus der Praxis und macht deutlich, wo in unserem Alltag überall Daten anfallen, die im Falle eines Falls ausgewertet werden könnten. Er spricht darüber, welche Rolle Fälschbarkeit digitaler Spuren in der Realität spielt, ob KI bei den Ermittlungen unterstützt, wie gut Kriminelle ihre digitalen Spuren verwischen und wo das Wissen der forensischen Informatik noch nützlich ist. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Freiling, was die Allgegenwart digitaler Spuren für die Privatsphäre heißt, wie verantwortungsvolle Digitalisierung im Kleinen wie im Großen Kriminalität mitdenken kann – und was das digitale Äquivalent einer DNA-Spur sein könnte.

Unsere Alltagskommunikation hat sich während der Corona-Pandemie radikal digitalisiert. Natürlich mussten sich darum auch politische Parteien und ihre Mitglieder neu organisieren: Ganze Parteitage fanden zeitweise virtuell statt, auch Debatten und Entscheidungsfindungen mussten mit digitalen Tools gelingen, die nun beibehalten werden und den persönlichen Austausch weiterhin ergänzen. Aber auch jenseits der Ausnahmesituation einer Pandemie experimentieren Parteien damit, im Rahmen von Modernisierungsmaßnahmen neue Möglichkeiten der Zusammenarbeit zu erschließen. Man versucht auf Sozialen Medien Wählerinnen und Wähler zu erreichen, vor allem aber auch das Innenleben der Partei durch Digitalität zu verbessern. Wie die politischen Parteien in Deutschland ihre eigene digitale Transformation angehen, welche Schwerpunkte sie dabei setzen und was ihre jeweiligen Voraussetzungen sind, das unterscheidet sich freilich stark: Mitgliederzahlen, Budget und auch unterschiedliche politische Leitbilder spielen dabei eine Rolle. Isabelle Borucki ist Professorin für politikwissenschaftliche Methoden und Demokratie im digitalen Wandel an der Philipps-Universität Marburg und erforscht insbesondere die digitale Transformation politischer Organisationen. Im Digitalgespräch beschreibt die Expertin ihre Beobachtungen aus Studien und Befragungen, die Einblicke in aktuelle Digitalisierungsprozesse politischer Parteien geben. Sie erklärt Gemeinsamkeiten und Unterschiede zwischen den Parteien und ordnet sie mit Blick auf deren jeweilige Eigenheiten und Rahmenbedingungen ein. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Borucki, wie Digitalisierung die Teilhabe an parteipolitischer Arbeit erleichtern aber auch erschweren kann, wie Mitglieder und etablierte Strukturen auf Digitalisierungsprozesse reagieren, vor welche Herausforderungen Social Media die PR-Abteilungen von Parteien stellt – und wie sich Parteien bisher zu den technischen Möglichkeiten für digitalen Wahlkampf verhalten.

Fernsehen und Radio haben im Zeitalter des Internets ihre Monopolstellung als Massenmedien verloren. Ihre wichtige Rolle für die Demokratie und ihre verfassungsmäßigen Aufgaben haben die öffentlich-rechtlichen Sendeanstalten dabei aber behalten: Hauptsächlich von den Rundfunkgebühren der Bürger:innen finanziert, sollen sie mit einem hochwertigen und vielfältigen Programm informieren, unterhalten, Meinungsvielfalt und unterschiedliche Lebenswirklichkeiten abbilden und für möglichst viele Menschen relevant sein. Längst finden sie darum auch in den Sozialen Medien und auf Online-Plattformen statt, mit aufwendig an spezielle Zielgruppen und deren Nutzungsgewohnheiten angepassten Inhalten. Die öffentliche Funktion erschöpft sich aber nicht in Programmgestaltung, Relevanz, Aktualität und Reichweite: Auch die Archivierung von Gesendetem als historischer Dokumente des Zeitgeschehens gehört zu dieser Verantwortung, genauso wie Bereitstellung und Instandhaltung von Medien-Infrastruktur. Letztere wird ja nicht nur von den Sendeanstalten selbst genutzt, sondern auch von privaten Medienschaffenden – und hat eine zentrale Bedeutung für den Katastrophenschutz. Dass Internet und Digitalisierung hier an vielen Stellen für Transformationsdruck sorgen, ist klar. Was gelingt dabei gut, was ist noch zu tun – und was steht auf dem Spiel? Florian Hager ist Intendant des Hessischen Rundfunks, einer der neun Landesrundfunkanstalten der ARD. Im Digitalgespräch schildert er, vor welchen Herausforderungen der Sender steht, welche drängenden Fragen und Baustellen ihn beschäftigen, und wie eine zeitgemäße Programmgestaltung gelingen kann. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Hager, was der Auftrag der Öffentlich-Rechtlichen angesichts der Digitalität bedeutet, wo Weichenstellungen auch den Einsatz von Politik und Gesellschaft fordern – und welche Rolle Sendemaste und UKW-Radios im Jahr 2023 noch spielen.