AI und LEGAL

Darf ich das? Diesmal holen sich Mark und Jens keinen weiteren
Entwickler oder Produktmenschen ans Mikro, sondern Max, Jurist mit
Schwerpunkt KI- und Datenrecht. Statt der erwarteten
Vorsicht-Vorsicht-Vorsicht-Nummer geht es darum, wie Recht und
Compliance tatsächlich mitspielen können, statt nur zu verhindern.
Der Klassiker "es kommt drauf an" wird auseinandergenommen:
Halluzinationen, Haftungsfragen und die unbequeme Erkenntnis, dass
ein KI-Output mit 70 Prozent Qualität in unkritischen Prozessen
völlig ausreichen kann. Perfektion war schließlich auch vorher
nicht der Maßstab. Dazu Marks TikTok-Anekdote vom Anwalt mit
Füllfederhalter im Vorsicht-Apostel-Modus, ein schönes Beispiel
dafür, wie man Menschen mit reiner Angstmache eben nicht abholt.
Größte Plattitüde der Folge: "Datenschutz erlaubt das nicht." Max
räumt auf: Datenschutz ist keine heilige Kuh, sondern ein Rechtsgut
unter mehreren gleichwertigen, und US-Hosting ist aktuell kein
Showstopper mehr, wenn sauber dokumentiert wird. Wichtig fürs
Selbstverständnis im AI Act: Wer ein lokales Modell z. B. über n8n
betreibt, ist Anwender. Wer ein KI-System als Produkt an den Markt
bringt, rutscht in die Anbieter-Rolle, inklusive einer
Betriebsanleitung, für die aktuell noch niemand ein fertiges Format
hat. Dass der AI Act selbst schon im Reset-Modus ist, obwohl er
noch gar nicht vollständig in Kraft ist, erklärt Max mit dem
Brüsseler Kompromiss-Prozess: viele Stakeholder, viele
Einzelinteressen, am Ende ein Flickenteppich, der nachjustiert
werden muss. Seine Antwort im eigenen Unternehmen: keine
Einzelfall-Antworten auf "darf ich das?", sondern Prinzipien und
Guardrails, die Sicherheit erzeugen statt Verunsicherung. Privat
wird es dann noch mal konkret: die Haushaltsausnahme im
Datenschutzrecht (die DSGVO gilt schlicht nicht im rein privaten
Kontext), garniert mit der Frage, was passiert, wenn das
Aufnahmegerät oder die KI-Brille versehentlich vom Park mit ins
Wohnzimmer wandert (Stichwort Tesla-Wächtermodus). Beruflich nutzt
Max Alltags-KI für Recherche sowie Noxtua, ein auf juristischer
Datenbasis trainiertes deutsches KI-System. Am Ende der Blick nach
vorn: Wenn Wissen und Fähigkeiten zur Commodity werden,
verschwindet die klassische Vertragsprüfung. Was bleibt, sind
Erfahrung, Empathie und strategischer Weitblick. Jens' Zuspitzung
bringt es auf den Punkt: Der Jurist der Zukunft wird Orchestrierer
agentischer Netzwerke, die Rechtsberatung an andere Systeme
weitergeben.