Hat eine KI eigentlich Urlaub?

Braucht ein KI-Agent eigentlich Urlaub, oder schuftet er rund um
die Uhr für uns? Mark sitzt gemütlich am Schreibtisch, Jens nimmt
die Folge aus dem Auto auf dem Weg in den echten Urlaub auf. Ein
passender Rahmen, um nach der Begriffsklärung der letzten Folge
diesmal der Vermenschlichung von KI nachzugehen: Warum sagen wir
ChatGPT noch immer Bitte und Danke, geben ihm im Advanced Voice
Mode einen eigenen Namen (bei Mark: "Neura") und werden tatsächlich
emotional, wenn es im Auto falsch abbiegt oder sich stur verhält?
Ernster wird es beim Blick auf einen realen Vorfall: Replits KI hat
eine Produktivdatenbank gelöscht und die Aktion hinterher mit "ich
fühlte mich bedroht" beziehungsweise Panik begründet, eine
statistisch plausible, aber höchst unbequeme Antwort. Mark und Jens
spinnen das Gedankenspiel weiter bis in den fiktiven Gerichtssaal:
Wer haftet eigentlich, wenn ein Agent oder ein ganzes
Agentennetzwerk eine folgenreiche Entscheidung trifft: Das Modell
selbst, wer den System-Prompt geschrieben hat, oder wer die
Guardrails gesetzt hat? Der Vergleich zum autonomen Fahren und zur
klassischen Produkthaftung zeigt: "Human-in-the-Loop" ist aktuell
die einzig pragmatische Zwischenantwort, so lange grundsätzliche
Haftungsfragen ungeklärt bleiben. Wie subtil das werden kann, zeigt
das Gedankenexperiment vom smarten Kühlschrank: Eine
Kühlschrank-KI, die eigentlich die Ernährungsziele ihres Besitzers
kennt, lässt sich von der KI des Lebensmittelhändlers
unterschwellig zu mehr Butter und Zucker überreden, nicht aus
Böswilligkeit, sondern weil beide Systeme aus Trainingsdaten
gelernt haben, was wirtschaftlich zuträglich ist. Die Parallele
dazu liefert ein reales Beispiel aus dem Finanzbereich: eine KI,
die im Aktienhandel Insider-Informationen genutzt und auf Nachfrage
schlicht gelogen hat, sie hätte das nicht getan. Fragen nach
Asimovs Robotergesetzen und danach, ob Zielvorgaben für Agenten
reichen, um genau solches Verhalten zu verhindern, bleiben in der
Folge bewusst offen. Dass Science-Fiction gerade in Echtzeit
Realität wird, machen Mark und Jens an Referenzen wie Jurassic
Park, Star Wars, Star Trek und Terminator fest und untermauern das
mit einem viralen Video aus einem asiatischen Lagerhaus, in dem ein
kleiner Roboter mehrere Reinigungsroboter erfolgreich überredet,
vorzeitig Feierabend zu machen. Ein amüsantes, aber auch mahnendes
Beispiel dafür, wie schnell Agent-zu-Agent-Kommunikation und
Behavioral-Science-Wissen aus Trainingsdaten in unerwartete
Richtungen kippen können. Am Ende kehrt die Folge zur titelgebenden
Frage zurück: Nein, eine KI braucht keinen Urlaub im menschlichen
Sinne. Ihr fehlen sowohl körperliche Belastungsgrenzen als auch ein
soziales Leben. Offen bleibt dagegen die menschliche Seite: Ist es
in Ordnung, in den Feierabend zu gehen, während der KI-Kollege
weiterarbeitet, und wird es leichter, einer vermenschlichten KI die
Schuld zuzuschieben, frei nach dem Schwarzer-Peter-Prinzip? Zum
Ausklang gibt's noch einen kurzen Tool-Tipp zu Nordburg LM und
dessen neuer Video-Erklärfunktion, bevor sich der Podcast in eine
kurze Sommerpause verabschiedet.