KI: Abschied von der Wirklichkeit? – Rechtsbelehrung 142

Unser Gast Dr. Malte Engeler formuliert es zugespitzt: Künstliche
Intelligenz (KI) produziert Aussagen, die sprachlich überzeugen,
aber nicht unbedingt wahr sind. KI-Modelle lassen sich seiner
Ansicht nach nur dann betreiben, wenn man sich von Vorstellungen
wie Richtigkeit und Wirklichkeit verabschiedet. Diese
Einschätzung ist weniger Provokation als Beschreibung eines
technischen Zustands, mit erheblichen rechtlichen Konsequenzen.
Campact e.V. vs. X.AI

Unser Ausgangspunkt ist die Entscheidung im Verfahren Campact vs.
X, in der sich ein Gericht mit der Frage auseinandersetzen
musste, wem KI-generierte Aussagen rechtlich zuzurechnen sind und
ob sich Plattformen durch technische oder rechtliche
Konstruktionen der Verantwortung entziehen können. Konkret ging
es um den Chat-Bot Grok auf Elon Musks Plattform X.
Glaubwürdigkeit trotz „Halluzination“

KI-Chatbots unterscheiden sich von klassischen
Informationsdiensten dadurch, dass sie nicht lediglich Inhalte
auffinden oder ordnen, sondern eigenständig formulieren. Ihre
„menschlich“ wirkende Ausgabe verstärkt das Vertrauen der Nutzer
und verschiebt damit die rechtliche Bewertung.


Begriffe wie „Halluzination“ oder „Konfabulation“ (Buch von
Katharina Zweig) verdecken dabei eher das eigentliche Problem –
KI-Systeme haben keinen Bezug zur Wirklichkeit, sondern erzeugen
Wahrscheinlichkeitsaussagen, die unabhängig von ihrem
Wahrheitsgehalt in der realen Welt plausibel erscheinen können.
Folgen unwahrer KI-Aussagen

Vor diesem Hintergrund diskutieren wir die rechtlichen Folgen
unwahrer KI-Aussagen. Kann ein KI-Output Persönlichkeitsrechte
verletzen, und wenn ja, wessen Verhalten ist maßgeblich, das des
Anbieters, des Nutzers oder der Plattform?


Die Folge schließt mit einem Blick auf Datenschutz,
Berichtigungsansprüche und die offene Frage, ob das Recht künftig
nicht nur KI-Systeme regulieren muss, sondern auch die
ausgeprägte Gutgläubigkeit der Menschen, die ihnen
gegenübertreten.
Als Gast begrüßen wir Dr. Malte Engeler. Er ist promovierter
Jurist und war bisher für eine Datenschutzaufsichtsbehörde und als
Richter am Schleswig-Holsteinischen Verwaltungsgericht tätig.
Aktuell ist er im Bundesministerium der Justiz und für
Verbraucherschutz tätig. Er ist Mitbegründer des digitalpolitischen
Denkkollektivs „Strukturelle Integrität“ und spricht im Podcast in
rein privater Rolle. Mastodon, Web, LinkedIn.

Wir bedanken uns bei unserem Gast für die klaren Worte und die
anschaulichen Erläuterungen, wünschen viel Vergnügen beim Hören
und freuen uns auf Eure Meinungen zum Thema KI und Wahrheit.
Zeitmarken / Kapitelübersicht


00:00:00 – Vorstellung des Gastes und
Einführung ins Thema.


00:03:53 – „Campact vs. X“: Entscheidung des
LG zu Aussagen eines KI-Bots.


00:15:00 – Kann die Haftung für KI-Chatbots
wirksam ausgeschlossen werden?


00:21:00 – Macht es rechtlich einen
Unterschied, dass KI-Output als „menschlich“ wahrgenommen wird?


00:24:00 – Halluzinationen vs.
Konfabulationen: Sind diese Begriffe zutreffend – und haben KIs
überhaupt einen Wirklichkeitsbezug?


00:28:00 – Rechtsfolgen unwahrer KI-Aussagen:
Können KI-Systeme .(Unternehmens-)Persönlichkeitsrechte
verletzen?


00:36:00 – KI als Werkzeug oder als „Täter“?
Wer haftet? KI-System, sein Anbieter oder die KI-Nutzer?


00:37:00 – Vergleich mit der
BGH-Rechtsprechung zur Google-Autocomplete-Funktion.


00:44:00 – Gilt die Campact-Entscheidung auch
für andere Netzwerke und KI-Chatbots?


00:50:00 – Haftung von KI-Nutzern für die
Weiterverbreitung unwahrer KI-Aussagen.


00:52:30 – Kann X der Entscheidung praktisch
nachkommen oder sind Wiederholungen durch KI unvermeidbar?


00:57:30 – Datenschutz und KI:
Personenbezogene Daten, Recht auf Berichtigung und praktische
Umsetzbarkeit.


01:05:00 – Ausblick: Wie entwickelt sich
KI-Recht weiter und lässt sich die Gutgläubigkeit von Menschen
gegenüber KI verhindern?

Einschlägige Veröffentlichungen und Vorträge von Dr. Malte
Engeler zum Thema der Folge:

Anmerkung zur Entscheidung des Landgerichts Hamburg vom
23.09.2025, K&R 2025, 804, zusammen mit Louis Rolfes.

Unterlassungsansprüche bei der Erzeugung von ehrverletzenden
Falschinformationen durch LLMs, Aufsatz in ZD 2024, 496, zusammen
mit L. Rolfes.

Datenschutzrechtliche Korrekturansprüche bei Erzeugung von
Falschinformationen durch LLMs, Aufsatz in ZD 2024, 423, zusammen
mit L. Rolfes.

Fascist AI, Vortrag in der Reihe “Loops | New Practice” an
der Technischen Universität Berlin, 03.07.2025, zusammen mit
tante.

KI nach dem Kapitalismus: Hat ChatGPT in der besseren neuen
Welt einen Platz? Vortrag auf dem 38. Chaos Computer Congress,
29.12.2024, zusammen mit S. Sieron.



Der Beitrag KI: Abschied von der Wirklichkeit? – Rechtsbelehrung
142 erschien zuerst auf Rechtsbelehrung.