Rechtsbelehrung - Recht, Technik & Gesellschaft

Unser Gast Dr. Malte Engeler formuliert es zugespitzt: Künstliche Intelligenz (KI) produziert Aussagen, die sprachlich überzeugen, aber nicht unbedingt wahr sind. KI-Modelle lassen sich seiner Ansicht nach nur dann betreiben, wenn man sich von Vorstellungen wie Richtigkeit und Wirklichkeit verabschiedet. Diese Einschätzung ist weniger Provokation als Beschreibung eines technischen Zustands, mit erheblichen rechtlichen Konsequenzen. Campact e.V. vs. X.AI Unser Ausgangspunkt ist die Entscheidung im Verfahren Campact vs. X, in der sich ein Gericht mit der Frage auseinandersetzen musste, wem KI-generierte Aussagen rechtlich zuzurechnen sind und ob sich Plattformen durch technische oder rechtliche Konstruktionen der Verantwortung entziehen können. Konkret ging es um den Chat-Bot Grok auf Elon Musks Plattform X. Glaubwürdigkeit trotz „Halluzination“ KI-Chatbots unterscheiden sich von klassischen Informationsdiensten dadurch, dass sie nicht lediglich Inhalte auffinden oder ordnen, sondern eigenständig formulieren. Ihre „menschlich“ wirkende Ausgabe verstärkt das Vertrauen der Nutzer und verschiebt damit die rechtliche Bewertung. Begriffe wie „Halluzination“ oder „Konfabulation“ (Buch von Katharina Zweig) verdecken dabei eher das eigentliche Problem – KI-Systeme haben keinen Bezug zur Wirklichkeit, sondern erzeugen Wahrscheinlichkeitsaussagen, die unabhängig von ihrem Wahrheitsgehalt in der realen Welt plausibel erscheinen können. Folgen unwahrer KI-Aussagen Vor diesem Hintergrund diskutieren wir die rechtlichen Folgen unwahrer KI-Aussagen. Kann ein KI-Output Persönlichkeitsrechte verletzen, und wenn ja, wessen Verhalten ist maßgeblich, das des Anbieters, des Nutzers oder der Plattform? Die Folge schließt mit einem Blick auf Datenschutz, Berichtigungsansprüche und die offene Frage, ob das Recht künftig nicht nur KI-Systeme regulieren muss, sondern auch die ausgeprägte Gutgläubigkeit der Menschen, die ihnen gegenübertreten. Als Gast begrüßen wir Dr. Malte Engeler. Er ist promovierter Jurist und war bisher für eine Datenschutzaufsichtsbehörde und als Richter am Schleswig-Holsteinischen Verwaltungsgericht tätig. Aktuell ist er im Bundesministerium der Justiz und für Verbraucherschutz tätig. Er ist Mitbegründer des digitalpolitischen Denkkollektivs „Strukturelle Integrität“ und spricht im Podcast in rein privater Rolle. Mastodon, Web, LinkedIn. Wir bedanken uns bei unserem Gast für die klaren Worte und die anschaulichen Erläuterungen, wünschen viel Vergnügen beim Hören und freuen uns auf Eure Meinungen zum Thema KI und Wahrheit. Zeitmarken / Kapitelübersicht 00:00:00 – Vorstellung des Gastes und Einführung ins Thema. 00:03:53 – „Campact vs. X“: Entscheidung des LG zu Aussagen eines KI-Bots. 00:15:00 – Kann die Haftung für KI-Chatbots wirksam ausgeschlossen werden? 00:21:00 – Macht es rechtlich einen Unterschied, dass KI-Output als „menschlich“ wahrgenommen wird? 00:24:00 – Halluzinationen vs. Konfabulationen: Sind diese Begriffe zutreffend – und haben KIs überhaupt einen Wirklichkeitsbezug? 00:28:00 – Rechtsfolgen unwahrer KI-Aussagen: Können KI-Systeme .(Unternehmens-)Persönlichkeitsrechte verletzen? 00:36:00 – KI als Werkzeug oder als „Täter“? Wer haftet? KI-System, sein Anbieter oder die KI-Nutzer? 00:37:00 – Vergleich mit der BGH-Rechtsprechung zur Google-Autocomplete-Funktion. 00:44:00 – Gilt die Campact-Entscheidung auch für andere Netzwerke und KI-Chatbots? 00:50:00 – Haftung von KI-Nutzern für die Weiterverbreitung unwahrer KI-Aussagen. 00:52:30 – Kann X der Entscheidung praktisch nachkommen oder sind Wiederholungen durch KI unvermeidbar? 00:57:30 – Datenschutz und KI: Personenbezogene Daten, Recht auf Berichtigung und praktische Umsetzbarkeit. 01:05:00 – Ausblick: Wie entwickelt sich KI-Recht weiter und lässt sich die Gutgläubigkeit von Menschen gegenüber KI verhindern? Einschlägige Veröffentlichungen und Vorträge von Dr. Malte Engeler zum Thema der Folge: Anmerkung zur Entscheidung des Landgerichts Hamburg vom 23.09.2025, K&R 2025, 804, zusammen mit Louis Rolfes. Unterlassungsansprüche bei der Erzeugung von ehrverletzenden Falschinformationen durch LLMs, Aufsatz in ZD 2024, 496, zusammen mit L. Rolfes. Datenschutzrechtliche Korrekturansprüche bei Erzeugung von Falschinformationen durch LLMs, Aufsatz in ZD 2024, 423, zusammen mit L. Rolfes. Fascist AI, Vortrag in der Reihe “Loops | New Practice” an der Technischen Universität Berlin, 03.07.2025, zusammen mit tante. KI nach dem Kapitalismus: Hat ChatGPT in der besseren neuen Welt einen Platz? Vortrag auf dem 38. Chaos Computer Congress, 29.12.2024, zusammen mit S. Sieron. Der Beitrag KI: Abschied von der Wirklichkeit? – Rechtsbelehrung 142 erschien zuerst auf Rechtsbelehrung.

Wer hätte gedacht, dass das Beamtenrecht so polarisierend wirken kann? Daher sprechen wir über Kritik, freuen uns über Hörerzahlen, lassen uns von der Vergangenheit einholen und blicken in die Zukunft. Viel Vergnügen beim Hören! Ich bin auf dem Sprung in den Urlaub, daher ist der Begleittext kürzer als sonst, aber das gibt es ohnehin alles zum Nachhören. Zeitmarken 00:00:00 – Beamtenkommentare und -kontroversen: Umgang mit negativen Kommentaren und die Frage, ob Stammtisch-Rants doch nicht das Schlechteste waren? Dazu Therapie und bunte Haare. 00:33:00 – Smartphone über Tasten sperren, um biometrische Erkennung zu blockieren. 00:35:00 – Gäste der Rechtsbelehrung in der Rechtsprechung (Dr. Marcus Wünschelbaum in „Wann hat die Polizei das Recht, mich zu filmen? – Rechtsbelehrung 128“ und Dr. Christoph Engel-Bunsas in „Das Recht an der eigenen Stimme – Rechtsbelehrung 138 )“. 00:37:00 – GEMA gegen OpenAI – Urteil und Einschränkungen der KI-Nutzung für Rechtsberatung? 00:50:30 – Unsere aktuellen Hörerzahlen. 00:56:00 – Die private Frage an die Podcaster. Der Beitrag Kritiker, Hörerzahlen, Haarfarben und Therapie – Obiter Dictum 17 erschien zuerst auf Rechtsbelehrung.

Rund 1,8 Millionen Menschen in Deutschland stehen im Beamtenverhältnis. Sie arbeiten in Verwaltungen, Schulen, Gerichten oder bei der Polizei. Damit prägt das Beamtentum nicht nur den öffentlichen Dienst, sondern idealerweise auch das Vertrauen der Bürgerinnen und Bürger in den Staat. Doch was bedeutet das Beamtenverhältnis konkret? Welche Rechte, Pflichten und Grenzen gelten im Dienst und darüber hinaus? Und wie viel Neutralität, Loyalität und persönliche Freiheit verträgt dieses besondere Verhältnis zwischen Staat und Individuum? Um all diese Fragen geht es in der heutigen Episode, die sich ganz dem Thema „Beamtenrecht“ widmet. Aufgaben, Verantwortung und Disziplin Wir sprechen über die historischen Ursprünge und rechtlichen Grundlagen des Beamtentums, die Beamtenlaufbahn, über Pflichten, Verantwortung und Konsequenzen, von Entlassungsgründen bis zu disziplinarischen Maßnahmen bei Machtmissbrauch oder Korruption. Voraussetzungen und Eignung Ein weiterer Schwerpunkt liegt auf den Zugangsvoraussetzungen und der persönlichen Eignung. Welche Rolle spielen charakterliche Zuverlässigkeit, politische Neutralität oder frühere Verfehlungen? Ebenso diskutieren wir gesellschaftliche Fragen, etwa, ob Beamte häufiger aus privilegierten Schichten stammen und wie stark der Servicegedanke im öffentlichen Dienst tatsächlich gelebt wird. Zwischen Loyalität und Privatleben Zum Schluss geht es um das Spannungsfeld zwischen Dienstpflicht und Privatsphäre. Welche Grenzen setzt das Beamtenrecht bei politischem Engagement, öffentlicher Kritik oder persönlichen Überzeugungen und wie lassen sich Familie und Beruf im Staatsdienst miteinander vereinbaren? Ist z.B. die Mitgliedschaft in einer als gesichert rechtsextrem geltenden Partei ein Grund jemandem die Beamtenlaufbahn zu versagen? Unsere Gästin Zu Gast ist Sindy, Beamtin im höheren Dienst einer Bundesbehörde und dort in der Rechtsabteilung tätig. Sie ist privat bei uns zu Gast und bleibt anonym, warum, erfahrt Ihr in der Episode. Wir bedanken uns herzlich bei Sindy für den Besuch und die anschaulichen Einblicke in das Beamtenrecht und wünschen euch viel Vergnügen beim Hören! Viel Vergnügen beim Zuhören! 00:00:00 – Vorstellung der Gästin und des Themas. 00:04:30 – Warum gibt es Beamte, und seit wann existiert das Beamtentum? 00:10:00 – Was bedeutet der Beamtenstatus, und welche Aufgaben dürfen Beamten übertragen werden? 00:17:00 – Unter welchen Umständen können Beamte entlassen werden? 00:30:00 – Korruption, Machtmissbrauch und die Folgen dienstlicher Vergehen. 00:31:30 – Der Weg zur Verbeamtung: Widerrufs-, Probe- und Lebenszeitverhältnis. 00:39:00 – Welche Voraussetzungen gelten für die Beamtenlaufbahn? 00:43:00 – Politische Neutralität als Eignungskriterium: Steht eine Mitgliedschaft in einer rechtsextremen Partei dem entgegen? 00:53:30 – Charakterliche Eignung und Vorstrafen als Hinderungsgrund. 00:55:00 – Gehören Beamte eher der sozialen Oberschicht an? 01:00:30 – Gibt es Altersgrenzen für den Einstieg in den Beamtenstatus? 01:02:00 – Kommt der Servicegedanke bei Beamten zu kurz? 01:16:00 – Wohlverhaltens- und Neutralitätspflichten im Privatleben. 01:23:00 – Dürfen Beamte ihre Dienstherren und den Staat kritisieren? 01:30:00 – Müssen Beamte sich rechtswidrigen Anweisungen widersetzen – ein Bollwerk gegen den Faschismus? 01:39:00 – Vereinbarkeit der Beamtentätigkeit mit dem Familienleben. In der Episode angesprochene Rechtsfälle Ein administrativer Verfassungsschutz – Veröffentlicht in: Verfassungsblog (Berlin), Von: Sofiane Benamor. Parteimitgliedschaft als Ausschlusskriterium – Veröffentlicht in: Verfassungsblog (Leipzig/Berlin), Von: Dr. Andreas Nitschke. Polizei-Tweet: Disziplinarverfahren gegen Aslan beendet – Veröffentlicht in: Legal Tribune Online (LTO), Köln, Von: LTO-Redaktion. Polizisten in der AfD: Grötsch erwägt Dienstentlassung – Veröffentlicht in: Legal Tribune Online (LTO), Berlin, Von: dpa / LTO-Redaktion. ‚Reichsbürger‘: Bezüge von Lehrerin zu Recht gekürzt – Veröffentlicht in: Legal Tribune Online (LTO), Stuttgart/Sigmaringen, Von: dpa / LTO-Redaktion. Remonstration an der Grenze – Veröffentlicht in: Verfassungsblog (Berlin), Von: Dr. Andreas Nitschke & Prof. Dr. Klaus Krebs. Tätowierte Polizisten: Blumen sind erlaubt – Veröffentlicht in: Legal Tribune Online (LTO), Berlin, Von: Hasso Suliak. Verfassungsfeinde als Spitzenbeamte? – Veröffentlicht in: Legal Tribune Online (LTO), Berlin Von: Dr. Markus Sehl & Oscar Genter. Der Beitrag Beamte haben Recht – Rechtsbelehrung 141 erschien zuerst auf Rechtsbelehrung.

Es ist keineswegs neu, dass die Realität mit technischen Mitteln manipuliert wird. Schon vor über einem Jahrhundert wurden beispielsweise in Ungnade gefallene Politiker aus Fotos retuschiert. Und noch vor wenigen Jahren war der Hinweis „Photoshopped“ ein Synonym für digital veränderte Bilder. Doch seit dem Aufkommen künstlicher Intelligenz ist es für nahezu jede und jeden möglich, schnell, einfach und kostengünstig Bilder, Videos oder sogar Stimmen anderer Menschen zu manipulieren oder vollständig nachzubilden. Die dabei entstehenden sogenannten Deepfakes (ein Kofferwort aus „Deep Learning“ und „Fake“) können nicht nur den politischen Diskurs beeinflussen, sondern auch für einzelne Menschen schwerwiegende Folgen haben. Sie können beispielsweise zur Täuschung über Tatsachen eingesetzt werden, Menschen beleidigen oder diffamieren und – besonders gravierend – in Form sexualisierter Deepfakes zu erheblichen psychischen und physischen Belastungen für Betroffene führen. Angesichts der Vielzahl und Schwere der möglichen Folgen stellen wir uns in dieser Folge die Frage: Schützen uns die bestehenden Gesetze ausreichend vor Deepfakes? Dazu haben wir mit Dr. Jessica Flint eine Expertin eingeladen, die sich intensiv mit der Verbreitung von Fake News und dem Schutz von Persönlichkeitsrechten beschäftigt. Gemeinsam mit ihr werfen wir einen Blick in das Dickicht der relevanten Vorschriften, die einen rechtlichen Schutz vor Deepfakes bieten könnten. Dr. Jessica Flint, LL.M. (Edinburgh) ist Rechtsanwältin bei der JUN Legal GmbH und Lehrbeauftragte an der Julius-Maximilians-Universität Würzburg. In ihrer Dissertation befasste sie sich mit dem Thema „Fake News im Wahlkampf“ und untersuchte dabei die rechtlichen Herausforderungen von Desinformation in sozialen Netzwerken am Beispiel von Facebook. (LinkedIN) Das Ergebnis fällt eher ernüchternd aus. Trotz zahlreicher rechtlicher Ansatzpunkte fehlt, zumindest nach unserer Ansicht, eine zentrale Regelung, die ein konsequentes Vorgehen gegen rechtswidrige Deepfakes erleichtern würde. Wir bedanken uns herzlich bei Dr. Flint und wünschen euch viel Vergnügen beim Zuhören! Wie immer freuen wir uns aber auch auf eure Meinungen zu diesem Thema. Haltet ihr Deepfakes ebenfalls für ein großes Risiko? Würdet ihr euch einen eigenen „Deepfake-Paragrafen“ wünschen, oder seid ihr der Ansicht, dass die bestehenden Gesetze ausreichen? Schreibt uns! Zeitmarken 00:00:00 – Einführung & Definition von Deepfakes: Vorstellung unserer Gästin und gemeinsame Definition, was unter Deepfakes zu verstehen ist. 00:07:30 – Täuschungswirkung & Nachbildung der Realität: Wann werden reale Personen, Orte, Gegenstände, Ereignisse oder Einrichtungen nachgebildet – und wie wirkt die Täuschung? 00:14:00 – Medium & Strafbarkeit von Deepfakes: Spielt es eine Rolle, ob ein Deepfake als Bild, Audio oder Video vorliegt? Und: Sind Deepfakes strafbar? 00:26:00 – Kennzeichnungspflichten & rechtliche Konsequenzen: Welche Kennzeichnungspflichten bestehen für Deepfakes und welche rechtlichen Folgen drohen bei Verstößen? 00:29:00 – Kennzeichnungspflichten für Privatpersonen: Gilt die Pflicht zur Kennzeichnung auch für private Nutzer:innen? 00:34:00 – Plattformverantwortung im Digital Services Act (DSA): Welche Pflichten haben Plattformbetreiber im Umgang mit Deepfakes laut DSA? 00:38:00 – Kennzeichnungspflichten für KI-Anbieter: Welche Vorgaben gelten für Anbieter von KI-Systemen im Hinblick auf synthetische Inhalte? 00:46:00 – Anbieter vs. Betreiber von KI-Systemen: Wer gilt rechtlich als Anbieter einer KI und wer lediglich als Betreiber? 00:49:00 – Kennzeichnung nach der KI-Verordnung (AI Act): Wie müssen Deepfakes gemäß der EU-KI-Verordnung gekennzeichnet werden? 00:53:00 – Folgen bei Verstößen gegen Kennzeichnungspflichten: Was passiert, wenn gegen die Kennzeichnungspflicht von Deepfakes verstoßen wird? 01:00:00 – Deepfakes von Ereignissen & Gegenständen: Dürfen Produktbilder oder Ereignisdarstellungen mithilfe von Deepfakes erstellt werden? 01:11:00 – Deepfakes von Personen & Unterlassungsansprüche: Besonderheiten bei der Nachbildung von Personen und mögliche zivilrechtliche Ansprüche. 01:13:00 – Beleidigung, Verleumdung & Urheberrecht: Wie können Deepfakes Persönlichkeitsrechte verletzen oder gegen das Kunsturhebergesetz verstoßen? 01:15:00 – Hürden bei der Rechtsverfolgung: Welche praktischen und rechtlichen Schwierigkeiten bestehen bei der Verfolgung von Deepfakes? 01:20:00 – Bedarf für neue Gesetze & Plattformregulierung: Brauchen wir einen speziellen „Deepfake-Paragrafen“ oder zusätzliche Regeln für Plattformen? Weiterführende Links Video zur Übergabe der von über 367.000 Menschen unterstützten WeAct-Petition an das Bundesjustizministerium – unter anderem durch Autor Marcuwe Kling und Expertin Jessica Flint –, in der ein Verbot von Deepfakes mit echten Personen gefordert wird, um Demokratie und Persönlichkeitsrechte besser vor KI-Manipulation zu schützen. „Vorbild Italien – Auch Deut­sch­land will Deep­fakes unter Strafe stellen“ – Leonie Schilling, 09/24, LTO. „Braucht es eine Strafnorm für ‚Deepfakes‘?“ – Hasso Suliak, 09/25, LTO. „Deepfakes: Wie Hassrede, nur schlimmer“ – Maximilian Amos, 07/2024, Beck Online, u.a. zum angesprochenem Video von Bundeskanzler a.d. Olaf Scholz. Der Beitrag Brauchen wir ein Deepfake-Verbot? – Rechtsbelehrung 140 erschien zuerst auf Rechtsbelehrung.