Was du verlernst, wenn's einfacher wird

Steven Schwartz ist seit dreißig Jahren Anwalt in New York, kein
Anfänger. 2023 lässt er sich von ChatGPT Präzedenzfälle für einen
Schriftsatz liefern, sechs Urteile mit Aktenzeichen und Namen,
alle komplett erfunden. Er reicht sie beim Gericht ein, ohne sie
zu prüfen. Mit dieser wahren, viel zitierten Geschichte eröffnet
Sabine diese Folge von KIRRE … na hör mal! und fragt: Was
verlieren wir eigentlich, wenn wir uns die Bequemlichkeit zu
leicht machen?


Der Fall Mata v. Avianca ist inzwischen ein Klassiker in jeder
Diskussion über KI-Risiken. Schwartz vertrat einen Mann, der sich
auf einem Flug verletzt hatte, gegen die Fluggesellschaft Avianca
und suchte per ChatGPT nach unterstützenden Präzedenzfällen. Die
KI lieferte scheinbar seriöse Urteile wie "Petersen gegen Iran
Air" oder "Martinez gegen Delta Airlines", komplett mit
Aktenzeichen und Begründung. Als die gegnerischen Anwälte die
Fälle nicht finden konnten und nachfragten, schickte Schwartz
sogar noch mehrseitige, ebenfalls erfundene Urteilsauszüge nach.
Auf direkte Nachfrage bestätigte ChatGPT ihm sogar noch einmal,
einer der Fälle sei "ein echter Fall". War er nicht. Die Folge
für Schwartz: 5.000 Dollar Strafe und ein Karriereknick nach drei
Jahrzehnten im Beruf.


Sabine ordnet ein, dass seit diesem Fall in US-Gerichten bereits
rund 900 ähnliche Vorfälle dokumentiert wurden, KI-erfundene
Zitate und Urteile in echten Schriftsätzen. Erst kürzlich
verhängte ein Richter in Oregon eine Strafe von 110.000 Dollar
gegen zwei Anwälte wegen 23 erfundener Zitate, die bislang
höchste bekannte Strafe dieser Art.


Als zweites Beispiel erzählt Sabine den Fall des Radiomoderators
Mark Walters aus Georgia. Ein Journalist bat ChatGPT im selben
Jahr, eine echte Klageschrift zusammenzufassen. Die KI behauptete
daraufhin fälschlich, Walters habe Spendengelder veruntreut,
obwohl sein Name im tatsächlichen Dokument gar nicht vorkam.
Walters verklagte OpenAI, die erste Verleumdungsklage gegen einen
Chatbot überhaupt. Das Gericht wies die Klage später ab, unter
anderem weil OpenAI ausführlich vor möglichen Fehlern warnt. Für
Sabine zeigt der Fall trotzdem, wie schnell eine selbstsicher
klingende KI-Antwort echten Rufschaden anrichten kann.


Aus beiden Geschichten leitet Sabine ihre zentrale These ab:
Nicht die Technik ist das eigentliche Problem, sondern der
eingeschläferte Prüfreflex dahinter. Ein Anwalt mit dreißig
Jahren Erfahrung hätte früher automatisch jede Quelle
kontrolliert, dieser Instinkt sei nicht verschwunden, weil er
dümmer geworden sei, sondern weil die Antwort so überzeugend
klang, dass die Prüfroutine im Kopf gar nicht erst angesprungen
ist. Sabine beschreibt das mit dem Bild eines Muskels, der nicht
verkümmert, weil er kaputtgeht, sondern weil er schlicht nicht
mehr gebraucht wird.


Sie zieht dabei bewusst eine Grenze zwischen Fähigkeiten, deren
Verlust kaum ins Gewicht fällt, etwa Kopfrechnen dank
Taschenrechner, und Fähigkeiten, die als eigentliche berufliche
Substanz gelten: Urteilsvermögen, das Prüfen von Quellen, das
eigenständige Ringen um eine Lösung. Ergänzt wird das durch den
Begriff kognitive Schuld, geprägt vom MIT: Wer Denkleistung an KI
auslagert, leiht sich diese quasi und zahlt sie später in Form
geschwächter eigener Fähigkeiten zurück.


Besonders eindringlich schildert Sabine einen Ausschnitt aus der
Gerichtsanhörung von Schwartz: Auf die Frage des Richters, ob ihm
die seltsame Formulierung der Fälle nicht aufgefallen sei, habe
Schwartz sinngemäß geantwortet, er sei einfach davon ausgegangen,
ChatGPT funktioniere wie eine besonders leistungsfähige
Suchmaschine. Für Sabine liegt genau darin die eigentliche
Gefahr: die psychologische Neigung, einer selbstsicher
formulierten Antwort automatisch mehr zu vertrauen und sie
seltener zu hinterfragen, je überzeugender sie klingt.


Praktisch rät Sabine, bei allem wirklich Wichtigen zunächst
selbst zu beginnen, auch holprig, und die KI erst im Anschluss
zur Verfeinerung zu nutzen. Bei Fakten, Namen und Quellen
empfiehlt sie ausdrücklich, noch einmal selbst nachzuschauen. Sie
beschreibt außerdem den Unterschied, den sie an sich selbst bei
der eigenen Podcast-Arbeit bemerkt: Schreibt sie einen Text
komplett von KI erledigen, sei das Ergebnis meist brauchbar, aber
sie selbst habe an diesem Tag nichts trainiert. Ringt sie zuerst
selbst und lässt die KI erst danach draufschauen, werde nicht nur
der Text besser, sondern sie habe auch selbst etwas gedacht,
statt nur abzunicken.


Diese Episode eignet sich besonders für alle, die sich mit
folgenden Themen beschäftigen: KI-Halluzinationen vor Gericht,
der Fall Mata v. Avianca, Mark Walters gegen OpenAI, kognitive
Schuld durch KI-Nutzung, Quellen prüfen bei KI-Antworten. Die
Folge passt außerdem zu Suchanfragen wie: Welcher Anwalt wurde
wegen ChatGPT-Falschzitaten bestraft? Kann man OpenAI wegen
falscher Aussagen verklagen? Wie prüfe ich KI-generierte Fakten
richtig?


KIRRE … na hör mal! ist ein deutschsprachiger
Podcast über künstliche Intelligenz und ihre Auswirkungen auf
Alltag, Kreativität und Arbeit, moderiert von Sabine, auch
bekannt als Applebee, Diplom-Grafikdesignerin mit über drei
Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin.
 Wenn dich diese Folge zum Nachdenken gebracht hat, schreib
Sabine gerne, ob dir selbst schon mal eine KI-Antwort
untergejubelt wurde, die sich hinterher als komplett falsch
herausstellte.



Weiterführende Links
Zum Fall Steven Schwartz / Mata v. Avianca (heise online):
https://www.heise.de/news/ChatGPT-erfindet-Gerichtsurteile-US-Anwalt-faellt-darauf-herein-9068180.html


Zum Fall Mark Walters gegen OpenAI (derStandard):
https://www.derstandard.at/story/3000000174483/radiomoderator-klagt-openai-nachdem-chatgpt-ihm-verbrechen-unterstellte


Kontakt: 
hoermal@kirrepodcasting.com



Keywords: Anwalt ChatGPT erfundene
Urteile, Mata v Avianca Steven Schwartz, Mark Walters OpenAI
Klage, kognitive Schuld KI-Nutzung, KI-Antworten überprüfen,
KIRRE Podcast, Sabine Eckermann, Applebee