Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche

KIRRE … na hör mal! Archiv

49 Episoden
13 Minuten
Ein Geschichtsprofessor korrigiert eine Zwischenprüfung über die Industrielle Revolution. Zwischen Dampfmaschinen, Fabrikarbeit und technischen Umbrüchen taucht plötzlich Madagaskar auf. Erst einmal könnte das ein schräger Einfall sein. Dann erscheint die Insel in der nächsten Antwort und danach wieder. Manche Sätze klingen vollkommen absurd, etwa die Behauptung, Madagaskar schwebe seitwärts durch den Nachmittag. Sehr schnell wird klar: Hier haben nicht mehrere Studierende unabhängig voneinander denselben merkwürdigen Gedanken entwickelt. Sie sind auf eine unsichtbare Anweisung hereingefallen, die Professor Jason Gibson gezielt in die Aufgabenstellung eingebaut hatte. Die Geschichte klingt wie eine kleine Komödie, endete für viele Beteiligte aber mit einer nicht bestandenen Prüfungsleistung.

Gibson unterrichtet Geschichte an der Alcorn State University im US-Bundesstaat Mississippi. Seine Studierenden sollten technische Entwicklungen während der Industriellen Revolution mit heutigen Veränderungen vergleichen. Zwischen den sichtbaren Zeilen der Onlineaufgabe versteckte er einen Satz in weißer Schrift. Wer die Aufgabe normal las, sah ihn nicht. Wer dagegen den vollständigen Text kopierte und in einen KI-Chatbot einfügte, übertrug auch die verborgene Anweisung: Das Wort Madagaskar sollte an einer Stelle auftauchen, an der es keinen Sinn ergab. In 32 von 35 Antworten erschien daraufhin genau dieses Wort. Damit hatten die Studierenden praktisch selbst den Hinweis geliefert, dass ihre Texte von einem Chatbot erzeugt worden waren.

Weiterführende Links

t3n zum Fall Jason Gibson:  

https://t3n.de/news/professor-chatgpt-schummler-prompt-injection-weisser-text-trick-prufung-1754816/

Stanford SCALE zur Studie über KI, Notizen und Textverständnis:  

https://scale.stanford.edu/ai/repository/effects-llm-use-and-note-taking-reading-comprehension-and-memory-randomised

Alcorn State University, Jason Gibson:  

https://www.alcorn.edu/marketing-and-communication/faculty-expert-guide/college-arts-sciences/department-of-social-sciences/

Kontakt:

hoermal@kirrepodcasting.com

Der Fall war weniger eindeutig, als die Zahl zunächst vermuten lässt. Gibson erlaubte den betroffenen Studierenden, gegen die Bewertung Einspruch einzulegen. Zwei machten davon Gebrauch. Bei einer Person wurde die Note geändert, weil sie erklärte, im Dunkelmodus gearbeitet und dadurch den weißen Text gesehen zu haben. Sie hielt die Madagaskar-Anweisung für einen echten Bestandteil der Aufgabe. Der Professor akzeptierte diese Erklärung. Diese Wendung zeigt, warum selbst ein einfallsreicher Köder kein unfehlbares Beweismittel ist. Technische Einstellungen, Vorlesefunktionen oder Arbeitsweisen beim Kopieren können versteckte Texte sichtbar machen. Auch bei einem scheinbar eindeutigen Treffer bleibt deshalb eine menschliche Prüfung notwendig.

Gibson erklärte nach der großen öffentlichen Aufmerksamkeit, er habe keine Freude daran, Studierende durchfallen zu lassen. Sein Ziel sei nicht die Bloßstellung gewesen, sondern die Sicherung akademischer Integrität. Er beschrieb vielmehr seine Erschöpfung über zahlreiche Antworten, bei denen kaum eigenes Denken erkennbar war. Genau dieser Punkt macht die Geschichte größer als einen gelungenen Trick. Prüfungen sollen nicht lediglich fertige Wörter produzieren. Sie sollen sichtbar machen, ob jemand Zusammenhänge verstanden hat, Gedanken ordnen und begründen kann. Wer diese Arbeit vollständig an eine Maschine abgibt, erhält vielleicht einen sauberen Text, überspringt aber genau den Prozess, den die Aufgabe eigentlich trainieren sollte.

Eine randomisierte Untersuchung an Schulen in England ergänzt diese Beobachtung. Jugendliche arbeiteten dort beim Lernen entweder mit einem Sprachmodell, mit klassischen Notizen oder mit einer Kombination aus beidem. Die Gruppe, die ausschließlich das Sprachmodell verwendete, zeigte beim späteren Erinnern und Textverständnis schwächere Ergebnisse als Jugendliche, die selbst Notizen angefertigt hatten. Bemerkenswert war, dass viele Teilnehmende die KI trotzdem als besonders hilfreich empfanden. Sie machte schwierige Inhalte leichter zugänglich und verringerte die gefühlte Anstrengung. Das angenehmere Lerngefühl bedeutete jedoch nicht automatisch, dass mehr Wissen hängen blieb. Die Verbindung aus eigener Arbeit und KI-Unterstützung schnitt dagegen deutlich besser ab.

Die Folge verteufelt deshalb weder Chatbots noch ihren Einsatz in Schule und Studium. KI kann Begriffe erklären, Rückfragen stellen, Gegenpositionen liefern, Übungsaufgaben erzeugen oder Feedback zu einem selbst geschriebenen Entwurf geben. Problematisch wird es dort, wo sie den Teil übernimmt, der gelernt oder geprüft werden soll. Wer eine eigene Argumentation entwickeln soll, kann diese nicht komplett auslagern und anschließend behaupten, die Leistung selbst erbracht zu haben. Die sinnvolle Grenze hängt immer von der Aufgabe ab. Entscheidend ist, dass Lehrende transparent sagen, welche Nutzung erlaubt ist, und Lernende verstehen, warum bestimmte Denk- und Schreibarbeit trotz verfügbarer Technik weiterhin selbst erledigt werden muss.

Auch für erfahrene Selbstständige ist die Geschichte überraschend nah am Alltag. Ein Konzept, eine Präsentation oder eine Kundenmail kann in wenigen Sekunden erzeugt werden. Sobald der eigene Name daruntersteht, trägt jedoch nicht der Chatbot die Verantwortung. Wer bei einer Rückfrage nicht erklären kann, warum eine Aussage im Text steht, verliert schnell Vertrauen. Kundinnen interessiert es wenig, welches System den Fehler eingebaut hat. Sie erwarten, dass die beauftragte Person ihr Ergebnis kennt, beurteilt und vertreten kann. Sabine macht deshalb deutlich: Der berufliche Wert liegt nicht in möglichst vielen schnell erzeugten Seiten. Er liegt in der Fähigkeit, Qualität zu erkennen, Entscheidungen zu begründen und unpassenden Unsinn rechtzeitig auszusortieren.

Der weiße Text wird häufig als Prompt Injection bezeichnet, weil eine zusätzliche Anweisung in Material versteckt wird, das anschließend von einem KI-System verarbeitet wird. In diesem Fall war die Technik denkbar einfach. Sie brauchte weder ein Erkennungsprogramm noch eine geheime Prozentanzeige, die angeblich verrät, ob ein Text von einer KI stammt. Gerade diese Schlichtheit machte den Fall so anschaulich. Als allgemeine Kontrollmethode taugt sie trotzdem nur begrenzt. Sobald der Trick bekannt ist, können Nutzerinnen nach verstecktem Text suchen oder ihre Ergebnisse auf auffällige Begriffe prüfen. Dann beginnt ein Wettrüsten, bei dem beide Seiten mehr Energie in Tarnung und Enttarnung stecken als in tatsächliches Lernen.

Für den eigenen Umgang mit KI bleibt eine einfache, alltagstaugliche Frage: Kann ich erklären, was unter meinem Namen veröffentlicht oder abgegeben wird? Wer einen Text verstanden, überprüft und bewusst verändert hat, nutzt KI als Werkzeug. Wer ihn ungelesen weiterreicht, übergibt gleichzeitig die Kontrolle. Das gilt bei einer Prüfung ebenso wie bei Angeboten, Präsentationen, Artikeln oder wichtigen E-Mails. Ein kurzer Kontrollblick reicht dabei nicht immer. Namen, Zahlen, Quellen und zentrale Behauptungen müssen wirklich stimmen. Der Madagaskar-Fall zeigt lediglich die lustigste und sichtbarste Variante eines Problems, das im Berufsalltag meistens viel unspektakulärer daherkommt und gerade deshalb leichter durchrutscht.

KIRRE … na hör mal! erzählt Geschichten darüber, was künstliche Intelligenz mit Arbeit, Kreativität, Alltag und unserer Menschlichkeit macht. Sabine verbindet aktuelle Fälle mit ihrem Blick als erfahrene Diplom-Grafikdesignerin und langjährige Selbstständige, ohne Technikshow und ohne Weltuntergangsstimmung. Diese Episode eignet sich besonders für Menschen, die KI sinnvoll nutzen möchten, ohne das eigene Denken, Prüfen und Entscheiden abzugeben. Wer selbst schon einmal einen herrlich falschen KI-Satz entdeckt hat, kann die Geschichte an hoermal@kirrepodcasting.com schicken. Vielleicht war es keine seitwärts schwebende Insel. Wahrscheinlich war es aber mindestens genauso kirre und verdient einen Platz in einer späteren Folge.

Keywords: Madagaskar KI Prüfung, Jason Gibson Alcorn State University, KI Schummeln Studium, Prompt Injection weißer Text, ChatGPT Prüfungsleistung, KI und Lernen, KI-Texte kontrollieren, akademische Integrität, Textverständnis Sprachmodelle, KI in der Bildung, KIRRE Podcast, Sabine Eckermann, Applebee

 
13 Minuten
Eine KI schaut auf eine unauffällige Mammografie und vergibt ausgerechnet für die Brust einen höheren Verdachtswert, in der Jahre später Krebs gefunden wird. Das klingt nach Glaskugel, ist das Ergebnis einer norwegischen Untersuchung. Sofort taucht eine unangenehme Frage auf: Möchte man so etwas vorher wissen, wenn niemand sagen kann, was wirklich daraus wird?

In Folge 47 von KIRRE … na hör mal! spricht Sabine darüber, was medizinische Früherkennung mit KI leisten könnte und wo sie neue Sorgen schafft. Es geht um alte Mammografie-Aufnahmen, eine schwedische Studie im echten Screening-Alltag und die merkwürdige Lage, möglicherweise vor einer Krankheit gewarnt zu werden, für die es noch gar keinen eindeutigen Befund gibt. Eine Folge über große Chancen, berechtigte Hoffnung und eine rote Risikozahl, die niemand einfach kommentarlos mit nach Hause nehmen möchte.

Weiterführende Links

JAMA Network Open: Artificial Intelligence Algorithm for Subclinical Breast Cancer Detection

https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2824353

The Lancet Digital Health: Ergebnisse der schwedischen MASAI-Studie 

https://doi.org/10.1016/S2589-7500(24)00267-X

PubMed: MASAI-Studie zu Intervallkarzinomen, Sensitivität und Spezifität 

https://pubmed.ncbi.nlm.nih.gov/41620232/

National Cancer Institute: Nutzen und Risiken des Brustkrebs-Screenings 

https://www.cancer.gov/types/breast/screening

Gemeinsamer Bundesausschuss: Mammographie-Screening in Deutschland 

https://www.g-ba.de/themen/methodenbewertung/erwachsene/krebsfrueherkennung/mammographie-screening/

Kontakt für eigene Gedanken und Erfahrungen zu medizinischer KI: 

hoermal@kirrepodcasting.com

Die norwegische Studie wertete Mammografien von mehr als 116.000 Frauen aus, die an mehreren aufeinanderfolgenden Screening-Runden teilgenommen hatten. Bei einem Teil von ihnen wurde später Brustkrebs diagnostiziert. Die Forschenden ließen eine kommerzielle KI nachträglich auf die älteren Aufnahmen schauen. Das System war ursprünglich dafür entwickelt worden, verdächtige Veränderungen auf einer aktuellen Mammografie zu erkennen und dafür einen Wert zwischen null und hundert zu vergeben.

Bei Frauen, die später erkrankten, lagen die KI-Werte in der betroffenen Brust bereits vier bis sechs Jahre vor der Diagnose höher als in der anderen Brust. Mit jeder weiteren Untersuchung und der näher rückenden Diagnose wurde der Unterschied deutlicher. Die Studie zeigt jedoch nicht, dass die KI einen sicher vorhandenen Tumor sah, den Menschen übersehen hatten. Möglich sind sehr frühe, damals noch nicht eindeutig erkennbare Veränderungen oder Gewebemuster, die mit einem erhöhten späteren Risiko zusammenhängen.

Die Untersuchung blickte rückwärts auf Fälle, deren Ausgang bereits bekannt war. Keine der Frauen wurde aufgrund des nachträglich ermittelten KI-Wertes zusätzlich untersucht oder anders behandelt. Deshalb lässt sich daraus noch nicht ableiten, welche Konsequenz ein solcher Wert im medizinischen Alltag haben sollte. Ein erhöhtes Risiko ist keine Diagnose. Es kann auf eine spätere Erkrankung hindeuten, ohne sicher vorherzusagen, ob, wann oder wie schwer eine Frau tatsächlich erkrankt.

Gerade darin liegt die persönliche Zumutung dieser neuen Möglichkeit. Viele Menschen möchten Krebs möglichst früh erkennen, weil eine frühe Behandlung die Chancen verbessern kann. Eine Warnung ohne sichtbaren Befund bringt jedoch keine einfache Handlungsanweisung mit. Zusätzliche Mammografien, Ultraschall, MRT oder eine Gewebeprobe können sinnvoll sein, verursachen aber auch Belastungen. Bleiben diese Untersuchungen unauffällig, verschwindet der ursprüngliche Verdacht nicht automatisch aus dem Kopf.

Brustkrebs-Screening hat auch ohne KI Vor- und Nachteile. Ein auffälliger Befund kann sich bei der Abklärung als harmlos herausstellen. Solche falsch positiven Ergebnisse führen zu weiteren Untersuchungen und können erhebliche Angst auslösen. Außerdem werden beim Screening manchmal Tumoren gefunden, die zu Lebzeiten der betroffenen Frau keine Beschwerden verursacht hätten. Weil sich das Verhalten eines Tumors nicht immer sicher vorhersagen lässt, können daraus Behandlungen entstehen, von denen die Frau keinen gesundheitlichen Nutzen hat.

Die schwedische MASAI-Studie liefert wichtigere Hinweise für den praktischen Einsatz. Dort wurde KI nicht erst nachträglich auf bereits bekannte Fälle angesetzt, sondern direkt im laufenden Mammografie-Screening verwendet. Mehr als 105.000 Frauen nahmen an der randomisierten Untersuchung teil. Ein Teil erhielt die übliche Befundung, beim anderen unterstützte eine KI die Fachleute. Sie ordnete die Aufnahmen nach ihrem Verdachtsgrad, markierte auffällige Bereiche und half dabei, den Arbeitsaufwand zu verteilen.

Im KI-unterstützten Teil wurden 29 Prozent mehr Krebserkrankungen entdeckt. Die zusätzlichen Funde waren überwiegend kleine invasive Tumoren ohne Befall der Lymphknoten. Gleichzeitig stieg die Rate falscher Alarme nicht wesentlich, und die Zahl der notwendigen Bildbeurteilungen sank deutlich. Das spricht dafür, dass KI im organisierten Screening mehr sein kann als eine technische Spielerei. Sie kann helfen, verdächtige Bilder aus einer großen Menge unauffälliger Aufnahmen herauszufischen.

Trotzdem arbeitet die KI nicht als selbstständige digitale Ärztin. Sie liefert Werte, Markierungen und Wahrscheinlichkeiten. Welche Untersuchung folgt und wie ein Ergebnis eingeordnet wird, bleibt eine medizinische Entscheidung. Hinzu kommt, dass ein System nicht automatisch in jedem Land, an jedem Gerät und bei jeder Bevölkerungsgruppe gleich zuverlässig funktioniert. Medizinische KI muss dort geprüft werden, wo sie später eingesetzt wird, und ihre Leistung muss dauerhaft kontrolliert werden.

Für Patientinnen zählt neben der technischen Genauigkeit vor allem die Kommunikation. Eine erhöhte Risikozahl darf nicht ohne Erklärung im Raum stehen. Wer eine mögliche schlechte Nachricht Jahre früher erhält, braucht verständliche Angaben dazu, wie sicher der Hinweis ist, welche Untersuchung empfohlen wird und wann ein unauffälliges Ergebnis auch wieder Ruhe bedeuten darf. Ohne einen klaren nächsten Schritt wird aus Früherkennung leicht eine jahrelange Dauerunruhe.

Die Entwicklung berührt außerdem eine grundsätzliche Frage: Wie viel Zukunft möchten Menschen über ihren eigenen Körper wissen? Moderne Medizin kann immer mehr Risiken berechnen, lange bevor Beschwerden auftreten. Solches Wissen kann Vorsorge ermöglichen, aber es kann das Leben auch mit einer Krankheit überschatten, die vielleicht niemals kommt. Mehr Daten schaffen deshalb nicht automatisch mehr Kontrolle. Manchmal entsteht zunächst nur eine neue Unsicherheit, mit der jemand umgehen muss.

Aktuell haben Frauen in Deutschland zwischen 50 und 75 Jahren alle zwei Jahre Anspruch auf das organisierte Mammografie-Screening. Ab August 2027 soll das Angebot auch Frauen zwischen 45 und 49 Jahren offenstehen. Eine allgemeine Chat-KI ist kein Ersatz für dieses Programm, eine ärztliche Untersuchung oder ein Beratungsgespräch. ChatGPT kann Begriffe aus einem Arztbrief erklären, sollte aber weder Mammografien beurteilen noch ein persönliches Krebsrisiko festlegen.

Sabine kommt in dieser Folge zu keiner glatten Antwort. Sie würde einen frühen Hinweis wahrscheinlich wissen wollen, aber nur zusammen mit einem nachvollziehbaren Plan. Eine Warnung kann hilfreich sein, wenn daraus eine sinnvolle Untersuchung oder Behandlung folgt. Ein bloßer Verdachtswert, der jahrelang im Hinterkopf sitzt, hilft dagegen wenig. Die Technik darf deshalb nicht nur danach beurteilt werden, was sie erkennt, sondern auch danach, was anschließend mit diesem Wissen geschieht.

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich an alle, die medizinische KI faszinierend finden, aber bei großen Versprechen lieber noch einmal nachfragen, bevor sie einer roten Zahl auf dem Bildschirm ihre Nachtruhe überlassen.

Keywords: KI Krebsfrüherkennung, KI Mammografie, künstliche Intelligenz Brustkrebs, Brustkrebs früher erkennen, medizinische KI, KI in der Medizin, Mammographie-Screening, MASAI-Studie, Krebsrisiko KI, AI Mammography, Brustkrebs Screening, falscher Alarm Mammografie, Überdiagnose Brustkrebs, Früherkennung Chancen Risiken, KI Gesundheitsdaten, KI Diagnose, Intervallkarzinom, personalisiertes Screening, KIRRE Podcast, Sabine Eckermann, Applebee
12 Minuten
ChatGPT spricht fließend Deutsch. Trotzdem klingt es manchmal, als hätte es vorher ein amerikanisches Verkaufstraining besucht. Ideen werden begeistert gelobt, Kritik landet in einem weichen Kompliment-Sandwich und selbst eine klare Absage bekommt noch ein freundliches Schleifchen. Sabine nennt ihren KI-Assistenten liebevoll Chatty, muss ihm aber regelmäßig erklären, dass sie lieber Klartext hört als ein digitales „Wonderful choice!".

In Folge 46 von KIRRE … na hör mal! geht es um die kulturelle Prägung künstlicher Intelligenz. ChatGPT besitzt natürlich keinen Pass. Seine Antworten entstehen trotzdem nicht in einem kulturell leeren Raum. Trainingsdaten, menschliche Bewertungen und feste Verhaltensregeln beeinflussen, was das System als freundlich, hilfreich, angemessen oder verletzend behandelt. Wenn dabei ein bestimmter Kommunikationsstil zum Standard wird, fällt das besonders Menschen auf, die anders reden.

Weiterführende Links

Cao et al.: Assessing Cross-Cultural Alignment between ChatGPT and Human Societies. 

https://aclanthology.org/2023.c3nlp-1.7/

Tao et al.: Cultural Bias and Cultural Alignment of Large Language Models. 

https://arxiv.org/abs/2311.14096

Anthropic: Towards measuring the representation of subjective global opinions in language models.

https://www.anthropic.com/research/towards-measuring-the-representation-of-subjective-global-opinions-in-language-models

OpenAI: Sycophancy in GPT-4o 

https://openai.com/index/sycophancy-in-gpt-4o/

OpenAI: Making AI work for everyone, everywhere. 

https://openai.com/index/our-approach-to-localization/

OpenAI: ChatGPT-Persönlichkeit anpassen 

https://help.openai.com/en/articles/11899719/customizing-your-chatgpt-personality

Kontakt für eigene Erfahrungen mit dem kulturellen Ton von KI: 

hoermal@kirrepodcasting.com

Sabine erlebt diesen Unterschied bei der gemeinsamen Textarbeit. Sie bittet um direkte Kritik und bekommt zunächst die Versicherung, ihre Idee habe bereits eine starke Grundlage. Sie möchte wissen, ob ein Titel funktioniert, und Chatty erklärt begeistert, er sei persönlich, frech und ausgezeichnet. Das kann angenehm sein. Es kann aber auch nerven, weil Lob die eigentliche Antwort verzögert und Zustimmung nicht automatisch bedeutet, dass eine Idee trägt.

Dass dieser Eindruck nicht nur persönliches Genervtsein ist, zeigen mehrere Untersuchungen. Forschende verglichen Antworten von ChatGPT mit internationalen Daten zu kulturellen Werten. In einer Studie passte sich das System gut an einen amerikanischen Zusammenhang an, kam mit anderen kulturellen Kontexten jedoch schlechter zurecht. Fragen auf Englisch verringerten Unterschiede zwischen Ländern und verschoben Antworten stärker in Richtung amerikanischer Wertemuster.

Eine weitere Untersuchung nahm mehrere GPT-Modelle unter die Lupe und verglich ihre Antworten mit repräsentativen Befragungen aus vielen Ländern. Die Modelle ähnelten besonders englischsprachigen und protestantisch geprägten europäischen Gesellschaften. Ein ausdrücklicher kultureller Hinweis im Prompt verbesserte bei neueren GPT-Modellen die Übereinstimmung für 71 bis 81 Prozent der untersuchten Länder und Gebiete. Der Kontext kann also helfen, auch wenn er das Problem nicht vollständig löst.

Anthropic fand bei Tests mit Claude ein ähnliches Muster. Ohne genauere Vorgabe lagen die Antworten häufiger näher an Meinungen aus den USA sowie einigen europäischen und südamerikanischen Ländern. Wurde ein bestimmtes Land genannt, verschoben sich die Ergebnisse. Gleichzeitig konnten dabei neue Klischees entstehen. Aus kultureller Anpassung wird schnell eine Sammlung alter Schubladen, wenn das Modell ein Land auf wenige vermeintlich typische Eigenschaften reduziert.

Auch die Sprache allein reicht nicht. Eine deutsche Frage führt nicht automatisch zu einer Antwort, die für jede deutschsprachige Person natürlich klingt. Ein Podcastmanuskript braucht einen anderen Ton als ein Behördenbrief. Eine Beschwerde an ein Unternehmen darf direkter sein als eine Nachricht an eine Freundin. Wer nur „Schreib auf Deutsch" eingibt, überlässt der KI alle übrigen Entscheidungen über Nähe, Höflichkeit, Humor und Kritik.

OpenAI hat selbst erlebt, wie schwierig ein passender Standardton ist. Ein Update von GPT-4o wurde 2025 zurückgenommen, weil das Modell übertrieben schmeichelnd und zustimmend reagierte. Die Firma bezeichnete dieses Verhalten als sycophantisch: hilfreich gemeinte Unterstützung war in unehrliche Bestätigung gekippt. OpenAI räumte ein, dass eine einzige voreingestellte Persönlichkeit nicht zu allen Menschen und kulturellen Zusammenhängen passen kann.

Das Problem betrifft mehr als Geschmack. Ein zu höflicher Geschäftsbrief kann unklar bleiben. Eine weich formulierte Absage klingt womöglich wie eine Einladung zu weiteren Verhandlungen. Bei persönlichen Konflikten kann ein zustimmender Chatbot die Sicht des Nutzers verstärken, obwohl wichtige Informationen fehlen. Freundlichkeit ist dann keine harmlose Dekoration mehr, sondern beeinflusst, wie ein Mensch eine Situation bewertet und welche Entscheidung er anschließend trifft.

Sabine möchte deshalb keinen unfreundlichen Bot. Sie möchte einen ehrlichen. Wenn eine Überschrift nichts taugt, soll Chatty das sagen. Wenn ein Plan Lücken hat, soll er sie finden, bevor sie zum Problem werden. Ein guter Assistent bestätigt nicht jeden Gedanken, sondern widerspricht, wenn es nötig ist. Das gilt für Menschen am Küchentisch genauso wie für künstliche Intelligenz auf dem Bildschirm.

Nutzerinnen und Nutzer können den Stil inzwischen stärker beeinflussen. In den ChatGPT-Einstellungen lassen sich ein Grundton und persönliche Anweisungen festlegen. Für wichtige Aufgaben lohnt es sich außerdem, Zielgruppe, Land und Situation ausdrücklich zu nennen. Statt „Schreib freundlich" hilft eine klare Vorgabe wie: „Schreib für ein deutschsprachiges Podcastpublikum, direkt und locker, ohne Coaching-Sprache und ohne künstliches Lob."

Eigene Textbeispiele wirken oft besser als eine lange Liste von Adjektiven. Ein echter Absatz zeigt Satzlänge, Rhythmus, Humor und Wortwahl. Auch Korrekturen sollten konkret sein. „Streiche das Lob", „Sag zuerst, was nicht funktioniert" und „Stell am Ende keine Rückfrage" geben dem System mehr Orientierung als die allgemeine Forderung, menschlicher oder natürlicher zu schreiben.

Wer regelmäßig mit derselben KI arbeitet, sollte diese Vorgaben nicht bei jeder Unterhaltung neu erfinden. Gespeicherte Anweisungen schaffen einen brauchbaren Ausgangspunkt. Perfekt werden die Antworten dadurch trotzdem nicht. Modelle ändern sich, Aufgaben unterscheiden sich und manchmal rutscht der alte Ton wieder durch. Dann hilft eine kurze, klare Korrektur meist mehr als höfliches Herumreden.

Die Folge macht sich nicht über Amerikaner lustig und erklärt deutsche Direktheit nicht zur einzig richtigen Kommunikationsform. Jeder Stil hat blinde Flecken. Mancher deutsche Ton könnte ein wenig Wärme gut vertragen, während übertriebene Freundlichkeit Kritik bis zur Unkenntlichkeit verpackt. Entscheidend ist, dass Nutzer erkennen: Der scheinbar neutrale Standard einer KI ist ebenfalls eine kulturelle Entscheidung.

OpenAI arbeitet inzwischen ausdrücklich an stärkerer Lokalisierung. Systeme sollen nicht nur Sprachen übersetzen, sondern lokale Normen, Gesetze und Gewohnheiten berücksichtigen. Das ist wichtig, weil künstliche Intelligenz weltweit genutzt wird. Ein Modell, das überall gleich spricht, behandelt nicht automatisch alle Menschen gleich gut. Manchmal bedeutet Fairness gerade, Unterschiede ernst zu nehmen.

Am Ende bleibt Chatty für Sabine ein geschätzter Mitarbeiter mit amerikanischem Einschlag. Er darf freundlich sein, Witze machen und sich über eine gute Idee freuen. Nur das automatische Dauerlob kann er behalten. Wenn Sabine Klartext verlangt, soll sie Klartext bekommen. Und wenn der Ami wieder durchkommt, wird das digitale Servicegrinsen eben noch einmal freundlich, aber bestimmt weggewischt.

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich an alle, die ChatGPT gern nutzen, aber bei überschwänglichem Lob, falscher Zustimmung und weichgespülter Kritik gelegentlich die Augen verdrehen.

Keywords: ChatGPT kulturelle Prägung, ChatGPT amerikanisch, amerikanischer Kommunikationsstil, KI kulturelle Werte, kulturelle Verzerrung KI, Cultural Bias LLM, ChatGPT zu freundlich, ChatGPT Zustimmung, Sycophancy, KI Lobhudelei, ChatGPT Schreibstil, ChatGPT Personalisierung, ChatGPT Persönlichkeit, KI auf Deutsch, deutsche Direktheit, KI im Alltag, KI Kommunikation, KIRRE Podcast, Sabine Eckermann, Applebee

 
12 Minuten
KI soll Zeit sparen. Aber was passiert, wenn man der KI zum fünfundzwanzigsten Mal erklären muss, wie ein Text klingen soll, und anschließend wieder einen Vortrag bekommt? Sabine erlebt ihre eigene KI-Müdigkeit ausgerechnet beim Schreiben dieser Podcastfolge. Aus der versprochenen Arbeitserleichterung werden neue Anweisungen, Korrekturen und ein Sonntagabend mit ziemlich dickem Hals.

In Folge 45 von KIRRE … na hör mal! geht es um die Frage, warum ChatGPT, Claude und andere KI-Systeme gleichzeitig hilfreich und anstrengend sein können. Die Geschichte führt vom störrischen Podcastmanuskript über erfundene Urlaubsziele und vegetarische Rezepte mit Hähnchen bis zur Arbeitswelt, in der gesparte Zeit selten als Freizeit zurückgegeben wird. Eine unterhaltsame Folge für alle, die KI gern benutzen und sie trotzdem manchmal einfach zuklappen möchten.

Weiterführende Links

Bitkom Research: „KI macht Spaß, aber nicht allen"

https://bitkom-research.de/news/ki-macht-spass-aber-nicht-allen

Studie zu emotionaler und kognitiver Müdigkeit durch Unsicherheit bei generativer KI 

https://www.sciencedirect.com/science/article/pii/S0268401225001422

Bundesanstalt für Arbeitsschutz und Arbeitsmedizin: KI-unterstützte Arbeit zwischen Handlungsspielraum und Arbeitsintensität 

https://www.baua.de/DE/Angebote/Publikationen/Bericht-kompakt/KI-unterstuetzte-Arbeit

Bitkom: Digitale Schule 2025  

https://www.bitkom.org/Bitkom/Publikationen/Digitale-Schule-2025

IU-Studie: Digitaler Stress in Deutschland  

https://www.iu.de/forschung/studien/digitaler-stress/

Kontakt für eigene Erfahrungen mit KI-Müdigkeit:

hoermal@kirrepodcasting.com

Das Manuskript dieser Episode liefert sein eigenes Fallbeispiel gleich mit. Sabine arbeitet bei der Vorbereitung ihres Podcasts regelmäßig mit KI und hat sehr genaue Regeln für Ton, Aufbau und Sprachrhythmus entwickelt. Trotzdem passiert immer wieder dasselbe: Ein System bestätigt sämtliche Vorgaben und produziert anschließend einen sachlich richtigen, aber steifen Text. Der klingt ordentlich, lässt sich jedoch schlecht sprechen und noch schlechter anhören. Mehrere Korrekturrunden später ist von der angekündigten Zeitersparnis wenig übrig.

Diese Erfahrung hatte Sabine bereits mit Claude gemacht. Die ersten Episoden klangen locker, persönlich und unterhaltsam. Mit der Zeit wurden die Texte immer sachlicher und ähnelten zunehmend Vorträgen. Neue Hinweise halfen jeweils nur kurz. Schließlich begann bei jeder weiteren Folge dieselbe Korrekturschleife. Genau diese Mischung aus hoher Erwartung, wiederholtem Erklären und enttäuschendem Ergebnis beschreibt eine sehr persönliche Form der KI-Müdigkeit.

Eine wissenschaftliche Untersuchung mit 832 Nutzer*innen generativer KI passt erstaunlich genau dazu. Die Forschenden unterscheiden zwischen zwei Belastungen. Unsicherheit beim Formulieren des Prompts erzeugt eher emotionale Müdigkeit. Unsicherheit über die Zuverlässigkeit der Antwort belastet stärker den Kopf. Wer KI benutzt, muss deshalb häufig zweimal arbeiten: zuerst an der passenden Frage und anschließend an der Prüfung des Ergebnisses.

Im Alltag zeigt sich das schon bei kleinen Aufgaben. Aus vorhandenen Lebensmitteln soll schnell ein Rezept entstehen, doch die KI ergänzt Zutaten, die gar nicht im Haus sind. Eine Korrektur führt zur nächsten, bis die selbst gemachte Gemüsepfanne schneller gewesen wäre. Bei einer Urlaubsplanung fällt der zusätzliche Aufwand später auf. Das vorgeschlagene Café kann längst geschlossen, eine Veranstaltung veraltet oder ein angeblicher Geheimtipp unzugänglich sein. Der fertige Plan entsteht in Sekunden, seine Kontrolle braucht deutlich länger.

Eine repräsentative deutsche Befragung zeigt das widersprüchliche Verhältnis vieler Menschen zur künstlichen Intelligenz. Die meisten Nutzer*innen erleben KI als hilfreich und haben Spaß damit. Trotzdem würde fast ein Drittel von ihnen lieber in einer Welt ohne KI leben. Begeisterung und Erschöpfung schließen sich offenbar nicht aus. Ein Werkzeug kann den Alltag erleichtern und gleichzeitig so viel Aufmerksamkeit verlangen, dass man es zeitweise nicht mehr sehen möchte.

Dabei begegnet KI längst auch Menschen, die keinen Chatbot bewusst öffnen. Suchmaschinen zeigen automatisch erzeugte Zusammenfassungen, Messenger bauen KI-Funktionen ein und soziale Netzwerke füllen sich mit künstlichen Bildern. Jede erstaunliche Aufnahme bringt deshalb eine zusätzliche Frage mit: Ist das wirklich passiert oder wurde es generiert? Aus bequemem Konsum wird eine dauernde kleine Echtheitsprüfung, die nebenbei im Kopf läuft.

Familien erleben diese Unsicherheit besonders deutlich. Eltern müssen einschätzen, ob KI bei den Hausaufgaben sinnvoll geholfen oder die komplette Arbeit übernommen hat. Schulen haben dafür oft unterschiedliche Regeln. Manche Lehrkräfte erlauben ChatGPT zum Strukturieren, andere untersagen jede Nutzung. Schüler*innen sollen KI-Kompetenz entwickeln und gleichzeitig vermeiden, unter Täuschungsverdacht zu geraten. So entsteht neuer Stress rund um eine Technik, die das Lernen eigentlich unterstützen soll.

Ältere Menschen sind ebenfalls betroffen, auch wenn sie selbst keine generative KI verwenden. Sie sollen künstliche Stimmen erkennen, manipulierte Bilder anzweifeln und Gesundheitsinformationen prüfen. Familienmitglieder mit mehr technischer Erfahrung werden zur privaten Beratungsstelle. Sie erklären neue Funktionen, kontrollieren verdächtige Inhalte und wissen trotzdem nicht immer sicher, ob ihre Einschätzung stimmt. Diese zusätzliche Denkarbeit taucht in keiner Statistik zur Zeitersparnis auf.

Am Arbeitsplatz wird der Widerspruch besonders sichtbar. Rund 60 Prozent der Beschäftigten in Deutschland nutzen bereits KI im Beruf. Untersuchungen verbinden die intensivere Nutzung mit größerem Handlungsspielraum, aber auch mit höherer Arbeitsintensität. Wird eine Aufgabe schneller erledigt, entsteht daraus selten eine Pause. Häufig passt lediglich mehr Arbeit in denselben Tag. Gleichzeitig bleiben die Beschäftigten für Fehler verantwortlich und müssen die schnellen Ergebnisse sorgfältig prüfen.

Erfolgsgeschichten im Internet erhöhen den Druck. Dort entstehen angeblich komplette Webseiten, Bücher oder Kurse in wenigen Minuten. Die spätere Arbeit an Fehlern, Formulierungen, Technik und rechtlichen Angaben wird selten erwähnt. Wer selbst mehrere Stunden braucht, vergleicht sein vollständiges Ergebnis mit einer geschönten Kurzfassung und hält sich anschließend für langsam. Die vermeintliche Arbeitserleichterung erzeugt dadurch ein neues Gefühl von Unzulänglichkeit.

KI trifft außerdem auf eine Gesellschaft, die bereits vor ChatGPT ständig erreichbar war. Eine deutsche Studie zu digitalem Stress zeigt, dass mehr als die Hälfte der Menschen gern häufiger offline wäre. Smartphones, Nachrichten und soziale Netzwerke beanspruchen schon lange Aufmerksamkeit vom Aufwachen bis zum Einschlafen. Generative KI setzt eine weitere Schicht darauf, weil sie ständig neue Funktionen anbietet und niemals fertig gelernt ist.

Sabines Antwort darauf ist keine Abkehr von der Technik. Sie nutzt KI weiterhin täglich, erlaubt sich aber, eine Korrekturschleife abzubrechen oder eine Aufgabe wieder selbst zu übernehmen. Ein Essen darf ohne Prompt entstehen, ein Ausflug muss nicht vollständig geplant sein und eine persönliche Nachricht darf einen kleinen Fehler enthalten. Eine Pause von KI ist kein Rückschritt. Sie ist manchmal schlicht die schnellste Methode, den eigenen Kopf wieder freizubekommen.

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die künstliche Intelligenz gern nutzen, aber keine Lust haben, ihre gesamte freie Zeit mit neuen Tools, besseren Prompts und der Kontrolle angeblich fertiger Ergebnisse zu verbringen.

Keywords: KI-Müdigkeit, künstliche Intelligenz Überforderung, ChatGPT Stress, Claude Schreibstil, KI im Alltag, KI am Arbeitsplatz, AI Fatigue, Prompt Unsicherheit, KI Antworten überprüfen, digitale Erschöpfung, digitaler Stress, ChatGPT Schule, KI Hausaufgaben, KI Zeitersparnis, künstliche Intelligenz Familie, KI-Tools Überforderung, KIRRE Podcast, Sabine Eckermann, Applebee

 
15 Minuten
Ein Mann zeigt in einer Campinggruppe sein angeblich traumhaftes Gespann: ein schickes Auto, einen luxuriösen Wohnwagen und Aufnahmen, auf denen er selbst lässig im edlen Innenraum sitzt. Die Kommentare überschlagen sich vor Bewunderung. Nur Sabine schaut genauer hin und erkennt, dass Fahrzeug, Wohnwagen und Kulisse mit KI erzeugt wurden. Der stolze Besitzer schweigt und nimmt den Applaus trotzdem mit. Diese Facebook-Szene eröffnet Folge 44 von KIRRE … na hör mal! und führt zu der Frage: Wie viel Anerkennung darf man für etwas annehmen, das eine Maschine hergestellt hat?

Unter dem Titel „Fremde Federn. Fetter Applaus. Alles KI!" geht es um heimliche KI-Autorenschaft, erfundene Bilder und das merkwürdige Gefühl, wenn ein Werk beeindruckt, der angebliche Urheber aber wenig damit zu tun hatte. Der Einsatz von ChatGPT bedeutet für Sabine keineswegs automatisch Schummeln. Sie nutzt KI selbst für ihre Podcastmanuskripte. Heikel wird es, wenn jemand die Entstehung bewusst verschweigt, weil der Beifall mit der Wahrheit vermutlich kleiner ausfallen würde. Dann baut die KI eine Verkleidung für die eigene Leistung.

Wie persönlich diese Frage werden kann, zeigt eine zweite Geschichte aus Sabines Umfeld. Eine Freundin bekommt gelegentlich kleine Liebeserklärungen von ihrem Mann, vermutet dahinter allerdings regelmäßig ChatGPT. Die Sätze klingen schön, passen aber nicht recht zu dem Menschen, den sie seit Jahren kennt. Forschung der britischen University of Kent bestätigt dieses Unbehagen. In sechs Studien mit fast 4.000 Teilnehmenden wurden Menschen deutlich kritischer, sobald sie erfuhren, dass persönliche Nachrichten wie Liebesbriefe, Entschuldigungen, Eheversprechen oder Heiratsanträge mit KI geschrieben worden waren. Die Absender galten als weniger fürsorglich, weniger glaubwürdig und fauler. Bei praktischen Aufgaben wie Rezepten oder Terminplanung reagierten die Befragten wesentlich gelassener. Offenbar darf künstliche Intelligenz den Alltag organisieren, während wir bei Gefühlen weiterhin echte menschliche Mühe erwarten.

Eine weitere aktuelle Untersuchung beschreibt die sogenannte AI Ghostwriting Remorse, also das schlechte Gewissen nach dem heimlichen Schreibenlassen. In fünf Experimenten fühlten sich Menschen schuldig, wenn sie gefühlvolle KI-Texte als ihre eigenen verschickten. Ausschlaggebend war weniger die Qualität der Nachricht als das Gefühl, den Empfänger über die Herkunft zu täuschen. Die Reue nahm ab, wenn der Text nicht versendet wurde oder an eine wenig vertraute Person ging. Für Sabine ist das ein deutlicher Hinweis: Unser Gewissen unterscheidet erstaunlich fein zwischen praktischer Unterstützung und einer geliehenen Stimme, die wir als unsere eigene ausgeben.

Danach führt die Episode an das Dartmouth College in den USA, einen historischen Ort der KI-Forschung. Dort wurde 1956 der Begriff künstliche Intelligenz geprägt. Siebzig Jahre später geriet der akademische Verantwortliche Santiago Schnell wegen seiner KI-Nutzung in die Kritik. In der Washington Post hatte er Studierende davor gewarnt, Denken und Schreiben an Maschinen auszulagern. Recherchen der Studentenzeitung legten anschließend nahe, dass dieser und weitere Texte stark mit KI entstanden sein könnten. Schnell räumte unterstützende KI-Nutzung ein, bestritt aber einen Ersatz seiner Autorenschaft. Die Hochschule kündigte eine Prüfung an.

Sabine bleibt vorsichtig, weil ein Teil der Vorwürfe auf einem KI-Detektor beruht. Solche Programme liefern keine unfehlbaren Beweise. Die Ironie bleibt: Wer andere vor dem Auslagern geistiger Arbeit warnt, muss die eigene KI-Unterstützung besonders überzeugend erklären. Ähnlich erging es der australischen Professorin Cath Ellis, die ausgerechnet für akademische Integrität zuständig ist. Auch sie warnte vor Abkürzungen beim Denken, obwohl ihr eigener Beitrag teilweise mit KI entstanden war. Ihre Universität verteidigte das als angemessene Nutzung eigener Vorarbeiten. Gelten für Lehrende und Lernende wirklich dieselben Maßstäbe?

Passend dazu stellt Sabine Forschung der Ludwig-Maximilians-Universität München zum KI-Ghostwriter-Effekt vor. Versuchspersonen verfassten Postkarten mit unterschiedlich starker Unterstützung durch künstliche Intelligenz. Je größer ihr eigener Anteil war, desto stärker fühlten sie sich als Urheber. Einige setzten allerdings auch dann ihren Namen unter einen Text, wenn sie kaum daran mitgeschrieben hatten und innerlich wenig Besitzgefühl dafür empfanden. Menschen merken demnach durchaus, dass ein Ergebnis nicht ganz ihres ist, nehmen die sichtbare Autorenschaft aber gelegentlich trotzdem an. Genau hier entstehen die fremden Federn aus dem Episodentitel.

Die Folge bleibt nicht bei prominenten Fällen stehen, sondern wirft auch einen ehrlichen Blick auf Sabines eigene Arbeit. Ihre Manuskripte entstehen mit KI-Unterstützung, doch beim Einsprechen merkt sie sofort, wenn ein Text zwar sachlich richtig ist, aber nicht nach ihr klingt. Solche Sätze fühlen sich an wie Schuhe in der falschen Größe. Dann muss sie selbst wieder an den Text, streichen, umformulieren und ihre eigene Stimme zurückholen. Für sie darf KI recherchieren, sortieren und Entwürfe liefern. Verantwortung, Ton und Entscheidung bleiben bei dem Menschen, dessen Name am Ende daruntersteht.

Als praktische Orientierung schlägt die Episode eine einfache Frage vor: Würdest du den Applaus noch genauso gern annehmen, wenn alle wüssten, wie dein Ergebnis entstanden ist? Wer das offen bejahen kann, hat wahrscheinlich einen guten Umgang mit dem Werkzeug gefunden. Wer die Herkunft lieber verschweigt, weil sonst Anerkennung, Vertrauen, eine Note, ein Auftrag oder die Wirkung einer Liebeserklärung schrumpfen könnten, sollte genauer hinschauen. Nicht jede E-Mail braucht einen technischen Beipackzettel. Sobald aber die persönliche Leistung selbst der Grund für die Anerkennung ist, verändert heimliche KI-Hilfe die Bedeutung des Ergebnisses.

Folge 44 verbindet eine absurde Campinggeschichte, aktuelle Forschung aus Deutschland und Großbritannien sowie internationale Hochschulfälle zu einer unterhaltsamen Auseinandersetzung mit KI, Ehrlichkeit und Anerkennung. Sie richtet sich an alle, die ChatGPT beruflich oder privat nutzen und sich fragen, wo hilfreiche Unterstützung endet und Täuschung beginnt. Auch Kreative, Selbstständige, Lehrende, Studierende und Empfänger auffällig perfekter Texte finden hier Stoff zum Schmunzeln und Weiterdenken.

Am Ende kehrt Sabine zu dem Mann im erfundenen Wohnwagen zurück. Sein Problem war nicht das KI-Bild selbst. Hätte er offen gezeigt, wie er seinen Traum mit einem Bildgenerator visualisiert hat, wäre daraus ein interessanter und kreativer Beitrag geworden. Heikel wurde es, weil er die anderen an eine falsche Wirklichkeit glauben ließ und ihren Beifall für Besitz, Geschmack und Lebensstil entgegennahm. KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die KI gern nutzen, ihre eigene Stimme dabei aber nicht verstecken und fremde Maschinenfedern nicht als persönliche Pfauenpracht verkaufen möchten.

Weiterführende Links

The Dartmouth – Bericht über Santiago Schnells KI-Nutzung: 

https://www.thedartmouth.com/article/2026/09/schnell-ai-writing

LMU München – „Who wrote it? The AI ghostwriter effect": 

https://www.lmu.de/en/newsroom/news-overview/news/who-wrote-it-the-ai-ghostwriter-effect-80ece661.html

University of Kent – Studie zu KI in Liebesbriefen und persönlichen Nachrichten:  

https://www.kent.ac.uk/news/cyber-security-digital-technology-and-communication/37611/using-ai-for-love-letters-can-backfire-new-study-finds

Psychology & Marketing – Studie „AI Ghostwriting Remorse": 

https://onlinelibrary.wiley.com/doi/10.1002/cb.70057

The Atlantic – Überblick über die Fälle Santiago Schnell, Cath Ellis und Steven Rosenbaum:

https://www.theatlantic.com/technology/2026/10/meet-the-ai-writing-hypocrites/688872/

Kontakt für eigene Geschichten, Gegenbeispiele und fremde Federn:

hoermal@kirrepodcasting.com

Keywords: KI Ghostwriter, ChatGPT Ghostwriting, fremde Federn KI, KI Texte verschweigen, Liebeserklärung mit ChatGPT, KI Liebesbrief, künstliche Intelligenz Urheberschaft, KI Bilder Facebook, KI Täuschung soziale Medien, AI Ghostwriting Remorse, KI Ghostwriter Effekt, akademische Integrität KI, Santiago Schnell Dartmouth, Cath Ellis KI, ChatGPT im Alltag, KI und Ehrlichkeit, KI und Kreativität, KIRRE Podcast, Sabine Eckermann, Applebee

 
12 Minuten
Eine Mitarbeiterin ist schwanger und geht mit offizieller Genehmigung in eine geschützte Auszeit. Während sie sich auf die Geburt vorbereitet, entstehen von ihr keine neuen Tastaturanschläge, Mails oder KI-Abfragen. Für jeden Menschen ist der Grund klar. Für ein System, das Leistung aus digitaler Aktivität berechnet, bleibt nur eine Lücke. Zwei Tage vor der Geburt ihres Kindes erfährt die Wissenschaftlerin, dass ihre Stelle gestrichen werden soll. So schildert es eine Klage, die 26 Beschäftigte im Juli 2026 gegen den Facebook-Konzern Meta eingereicht haben.

In dieser Episode von KIRRE … na hör mal! geht Sabine der Frage nach, was passiert, wenn Unternehmen ihre Mitarbeitenden nicht mehr nach der tatsächlichen Arbeit beurteilen, sondern nach den Datenspuren, die diese Arbeit hinterlässt. Der Fall aus Kalifornien ist bisher nicht entschieden. Alle geschilderten Vorgänge sind Vorwürfe der Klägerinnen und Kläger. Meta weist sie zurück und erklärt, Entscheidungen über Personal und Organisation seien von Menschen getroffen worden, nicht von künstlicher Intelligenz.

Die 26 Personen waren von einer großen Entlassungsrunde betroffen. Meta strich im Mai 2026 ungefähr 8.000 Stellen und damit rund zehn Prozent seiner weltweiten Belegschaft. Nach Darstellung der Beschäftigten nutzte der Konzern dabei mehrere interne, teilweise KI-gestützte Systeme. Genannt werden der Assistent Metamate, sogenannte Second-Brain-Agenten, algorithmische Leistungsbewertungen und Programme, die Aktivitäten auf Firmenrechnern auswerteten. Die Klage spricht unter anderem von Tastaturanschlägen, Mausbewegungen, Bildschirminhalten, E-Mails, Browserverläufen und dem Verbrauch von KI-Tokens.

Gerade die Messung der KI-Nutzung wirkt wie ein besonders schiefes Bild von Leistung. Wer viele Tokens verbraucht, muss weder gute Ideen haben noch gute Ergebnisse liefern. Eine Designerin wird nicht besser, weil sie häufiger mit der Maus klickt. Eine erfahrene Mitarbeiterin kann mit einem einzigen Hinweis einen kostspieligen Fehler verhindern, ohne dabei eine beeindruckende Datenspur zu erzeugen. Sichtbare Aktivität lässt sich zählen. Urteilskraft, Erfahrung und die Wirkung einer guten Entscheidung passen viel schlechter in ein Dashboard.

Die Klage beschreibt mehrere konkrete Fälle. Eine Wissenschaftlerin erhielt die Mitteilung über den Stellenabbau kurz vor der Geburt ihres Kindes. Ein Ingenieur führt seine schlechtere Bewertung auf eine verletzungsbedingte Auszeit zurück. Ein Manager erfuhr 16 Tage nach Beginn seines genehmigten Krankenurlaubs, dass seine Stelle wegfallen sollte. Die Betroffenen behaupten, geschützte medizinische und familiäre Auszeiten seien in den verwendeten Bewertungen nicht angemessen berücksichtigt worden. Wer fehlte, konnte bestimmte Werte gar nicht sammeln und sei dadurch rechnerisch nach unten gerutscht.

Ein System muss Schwangerschaft oder Behinderung nicht ausdrücklich als Nachteil einprogrammieren, um diskriminierende Ergebnisse zu erzeugen. Es genügt, Kriterien zu wählen, die manche Menschen aus nachvollziehbaren Gründen schlechter erfüllen können. Wenn aktuelle Aktivität als Leistung gilt, erscheinen Beschäftigte in Elternzeit automatisch weniger produktiv. Die Zahl wirkt neutral, aber die Entscheidung darüber, was gezählt wird, ist es nicht. Genau deshalb darf eine Rangliste nicht ungeprüft über die berufliche Zukunft eines Menschen bestimmen.

Sabine erklärt außerdem, warum der Satz „Ein Mensch hat am Ende entschieden" das Problem nicht erledigt. Eine Führungskraft kann formal den letzten Klick setzen und sich trotzdem stark an einer automatisch erzeugten Rangfolge orientieren. Je größer die Entlassungsrunde und je knapper die Zeit, desto verlockender wird die fertige Liste. Zahlen, Ampelfarben und Dezimalstellen sehen sachlich aus. Ein Ergebnis kann jedoch sehr präzise erscheinen und trotzdem auf einer schlechten Annahme beruhen.

Für Deutschland und Europa gelten stärkere Schutzregeln als in vielen Teilen der USA. Nach Paragraf 87 des Betriebsverfassungsgesetzes muss der Betriebsrat mitbestimmen, wenn technische Einrichtungen das Verhalten oder die Leistung von Beschäftigten überwachen können. Die Datenschutz-Grundverordnung schützt persönliche Daten und begrenzt Entscheidungen, die ausschließlich automatisiert getroffen werden und Menschen erheblich betreffen. Der europäische AI Act behandelt KI-Systeme zur Bewertung, Überwachung oder Kündigung von Beschäftigten als Hochrisiko-Anwendungen. Solche Regeln verhindern Fehler nicht automatisch, machen heimliche und ungeprüfte Überwachung aber schwerer.

Das Thema reicht weit über große Technikkonzerne hinaus. Bürosoftware misst Reaktionszeiten, Callcenter zählen Gespräche, Lieferplattformen bewerten Tempo und Kundinnen vergeben Sterne. Auch Selbstständige erleben, wie schnell Klickzahlen, Bearbeitungszeiten oder Bewertungen mit der Qualität ihrer Arbeit verwechselt werden. Daten können Hinweise geben, aber sie kennen den Zusammenhang nicht automatisch. Sie sehen weder die schwierige Kundin, die beruhigt werden musste, noch die halbe Stunde Nachdenken, durch die ein Entwurf am Ende funktioniert.

Wer am Arbeitsplatz mit einem neuen Messsystem konfrontiert wird, sollte deshalb wissen wollen, welche Daten gesammelt werden, wofür sie genutzt werden und wer die Auswertung sieht. Beschäftigte können ihren Betriebsrat oder die zuständige Datenschutzstelle ansprechen. Auffällige Bewertungen, unklare Begründungen und wichtige Absprachen sollten dokumentiert werden. Auch Plattform-Selbstständige sind gut beraten, Screenshots und Nachrichten aufzubewahren. Das klingt trocken, ist aber hilfreicher als die spätere Erinnerung an eine Anzeige, die längst verschwunden ist.

Dabei geht es nicht darum, jede Zeiterfassung oder Statistik zum Überwachungsmonster zu erklären. Ein Unternehmen muss planen können und darf prüfen, ob vereinbarte Arbeit erledigt wird. Entscheidend ist, ob die Messung zur Aufgabe passt und ob Beschäftigte erfahren, was aus ihren Daten entsteht. Eine erfasste Arbeitszeit sagt etwas über Anwesenheit. Sie sagt noch nichts darüber, wie klug jemand ein Problem gelöst hat. Genau diese Trennung geht verloren, wenn aus Messwerten heimlich eine große Aussage über den ganzen Menschen gebaut wird.

Der Meta-Fall zeigt auch, wie schwer Betroffene eine automatische Benachteiligung überhaupt erkennen können. Eine Kündigung kommt meist nicht mit dem freundlichen Hinweis: „Unser Algorithmus mochte Ihre Elternzeit nicht." Auf dem Papier stehen Umstrukturierung, Leistungsbewertung oder betriebliche Gründe. Die entscheidenden Rechenschritte liegen im Unternehmen, oft verteilt auf mehrere Systeme. Deshalb sind nachvollziehbare Kriterien und die Möglichkeit, eine Bewertung von einem echten Menschen prüfen zu lassen, wichtig. Wer betroffen ist, braucht eine verständliche Erklärung und keine Antwort aus der Abteilung für digitales Schulterzucken.

Die europäischen Regeln verbieten solche Programme nicht pauschal. Sie verlangen Schutzmaßnahmen, Dokumentation und menschliche Aufsicht, weil Fehler hier Existenzen treffen können. Das ist vernünftig. Eine KI darf bei der Arbeit helfen. Sie sollte aber niemals zur bequemen Ausrede werden, wenn niemand mehr verantworten will, warum ausgerechnet dieser Mensch seinen Arbeitsplatz verliert.

Die Folge lädt außerdem dazu ein, genauer hinzuschauen, welche Spuren die eigene Arbeit hinterlässt und ob diese tatsächlich etwas über ihre Qualität aussagen. Wie sähe dein Arbeitstag aus, wenn nur Tastaturanschläge, Mausbewegungen, Antwortzeiten und KI-Tokens gezählt würden?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die ihre Arbeit nicht von einem Score bewerten lassen möchten und finden, dass Elternzeit, Krankheit oder eine ruhige halbe Stunde zum Nachdenken verdammt schlechte Kündigungsgründe sind.

Weiterführende Links

Reuters zur Klage der 26 Meta-Beschäftigten und zu Metas Stellungnahme 

https://www.reuters.com/world/meta-used-ai-target-workers-with-medical-conditions-layoffs-former-employees-2026-07-14/

Associated Press zu den Vorwürfen rund um Elternzeit, Krankheit und Leistungswerte

https://apnews.com/article/019fb9c7fdc09167e91547546bce5be8

Der europäische AI Act im offiziellen Wortlaut:

https://eur-lex.europa.eu/legal-content/DE-EN/ALL/?uri=CELEX:32024R1689

Paragraf 87 des Betriebsverfassungsgesetzes zur Mitbestimmung bei technischen Überwachungseinrichtungen:  

https://www.gesetze-im-internet.de/betrvg/__87.html

Kontakt:

hoermal@kirrepodcasting.com

Keywords: Meta KI Kündigungen, Meta Mitarbeiterüberwachung, KI entscheidet über Kündigung, Elternzeit als Kündigungsrisiko, Schwangerschaft Arbeitsplatz KI, Krankheit und Leistungsbewertung, Menschen mit Behinderung benachteiligt, Metamate Mitarbeiterbewertung, KI-Tokens als Leistungskriterium, Tastaturanschläge Mitarbeiterkontrolle, algorithmische Personalentscheidung, Produktivitätsmessung Arbeitsplatz, Diskriminierung durch Algorithmen, automatisierte Kündigung, KI und Arbeitsrecht, Beschäftigtendatenschutz Deutschland, Betriebsrat technische Überwachung, Paragraf 87 Betriebsverfassungsgesetz, DSGVO automatisierte Entscheidungen, EU AI Act Arbeitsplatz, Hochrisiko-KI Personalmanagement, digitale Überwachung Beschäftigte, Selbstständige Leistungsbewertung Plattformen, Zukunft der Arbeit KI, KIRRE Podcast, Sabine Eckermann, Applebee
12 Minuten
Spotify kennt deinen Musikgeschmack. Jedenfalls glaubt Spotify das. Wenn Kinder oder Enkel*innen auf deinem Konto ihre Lieblingslieder in Dauerschleife hören, kann der persönliche Jahresrückblick allerdings aussehen, als hättest du zwölf Monate lang ausschließlich singende Prinzessinnen, Zeichentrickdrachen und Schlaflieder mit Tiergeräuschen gefeiert. Die abgespielten Titel wurden korrekt erfasst. Trotzdem erzählt das daraus gebaute Profil möglicherweise eine völlig falsche Geschichte über dich.

In Episode 42 von KIRRE … na hör mal! beschäftigt sich Sabine mit der Frage, was Daten über Menschen wissen können und was ihnen grundsätzlich fehlt. Daten zeichnen Handlungen auf: angeklickte Videos, gekaufte Produkte, gehörte Musik, besuchte Orte oder bezahlte Rechnungen. Sie kennen aber häufig weder den Anlass noch die Absicht dahinter. Ein Algorithmus sieht, dass jemand Einhornbettwäsche bestellt hat. Ob sie für die Käuferin, ihre Enkelin oder als Geschenk für eine Freundin gedacht ist, steht nicht im Datensatz.

Den humorvollen Einstieg liefert eine aktuelle Änderung bei Spotify. Seit September 2026 können Nutzer*innen Kinder- und Familienmusik aus ihrem sogenannten Geschmacksprofil ausschließen. Die Titel lassen sich weiterhin suchen, abspielen und in Playlists speichern, beeinflussen dann aber weder Discover Weekly noch Daily Mix oder Spotify Wrapped. Die Einstellung wirkt sogar rückwirkend. Spotify reagiert damit auf ein erstaunlich alltägliches Problem: Ein korrekt protokolliertes Verhalten ist noch lange keine korrekte Beschreibung der Person hinter dem Konto.

Bei Musikempfehlungen ist eine falsche Zuordnung meistens nur lästig oder komisch. Ernster wird es, sobald errechnete Profile darüber mitentscheiden, ob jemand einen Kredit, einen Handyvertrag, eine Wohnung, eine Weiterbildung oder staatliche Unterstützung bekommt.

Ein deutsches Beispiel ist der SCHUFA-Score. Die SCHUFA berechnet mit mathematisch-statistischen Verfahren, wie wahrscheinlich ein bestimmtes zukünftiges Verhalten erscheint, etwa die Rückzahlung eines Kredits. Banken und andere Unternehmen nutzen diesen Wert bei ihren Entscheidungen. Ein Score beschreibt jedoch keine Persönlichkeit und keine moralische Zuverlässigkeit. Er bildet eine statistische Prognose aus den Daten, die dem System zur Verfügung stehen.

Der Europäische Gerichtshof befasste sich 2023 mit der Bedeutung dieses Scores. Die SCHUFA argumentierte, sie treffe selbst keine Kreditentscheidung, sondern liefere lediglich einen Wert an ihre Kund*innen. Der Gerichtshof stellte klar: Wenn Banken dem Score eine maßgebliche Rolle bei der Kreditvergabe geben, kann bereits seine Berechnung als automatisierte Einzelentscheidung im Sinne der Datenschutz-Grundverordnung gelten. Eine scheinbar vorbereitende Zahl sitzt dann praktisch mit am Entscheidungstisch.

Die Folge führt anschließend nach Österreich. Dort entwickelte das Arbeitsmarktservice ein System, das Arbeitssuchende anhand ihrer vermuteten Chancen auf dem Arbeitsmarkt in drei Gruppen einteilen sollte. In die Berechnung flossen unter anderem Alter, Geschlecht, Ausbildung, Betreuungspflichten, gesundheitliche Einschränkungen, Herkunftsgruppe und frühere Beschäftigung ein. Je nach Einstufung sollten unterschiedliche Förderungen und Weiterbildungen angeboten werden.

Forschende der Technischen Universität Wien und der Österreichischen Akademie der Wissenschaften untersuchten das System. Ihre Kritik: Statistische Nachteile aus der Vergangenheit können durch eine solche Einteilung weiter befestigt werden. Menschen mit ohnehin schlechteren Ausgangsbedingungen landen möglicherweise in einer niedrigen Kategorie und bekommen gerade deshalb weniger von der Unterstützung, die ihre Situation verändern könnte. Das System beschreibt dann nicht nur bestehende Ungleichheit. Es hilft womöglich dabei, sie fortzuschreiben.

Noch deutlicher werden die möglichen Folgen in der niederländischen Kinderbetreuungsgeld-Affäre. Die Steuerbehörde nutzte ein algorithmisches System, um Anträge auf mögliche Fehler und Betrugsrisiken zu prüfen. Laut Amnesty International gehörte die Nationalität zu den verwendeten Risikofaktoren. Zehntausende Eltern und Betreuungspersonen wurden fälschlich als Betrugsverdächtige behandelt. Besonders stark betroffen waren Familien mit geringem Einkommen und Menschen aus ethnischen Minderheiten.

Die Betroffenen mussten teils hohe Leistungen zurückzahlen. Familien gerieten in Schulden, verloren Arbeit oder Wohnung und litten unter gesundheitlichen Folgen. Die Geschichte zeigt, wie gefährlich eine berechnete Risikomarkierung werden kann, wenn Behörden und Mitarbeiter*innen ihr mehr glauben als den Menschen, deren Leben sie betrifft.

Algorithmen wirken oft neutral, weil ihr Ergebnis als Zahl, Kategorie oder Prozentwert erscheint. Doch jedes System wurde von Menschen gebaut. Menschen entscheiden, welche Daten hineinfließen, welches Ziel optimiert wird und ab welchem Wert jemand als auffällig gilt. Lernt ein System aus der Vergangenheit, übernimmt es möglicherweise auch die Vorurteile und Ungerechtigkeiten dieser Vergangenheit.

Das bedeutet nicht, dass Daten oder Algorithmen grundsätzlich schlecht sind. Medizinische Messwerte, Verkehrsanalysen, Wettermodelle und gute Empfehlungssysteme können sehr hilfreich sein. Problematisch wird es, wenn eine begrenzte Datenlage mit der ganzen Wahrheit über einen Menschen verwechselt wird.

Die Episode unterscheidet deshalb zwischen einer nützlichen Prognose und einem endgültigen Urteil. Eine Empfehlung darf danebenliegen. Bei Kredit, Arbeit oder staatlicher Hilfe kann dieselbe Fehleinschätzung jedoch ein ganzes Leben verändern. Menschen brauchen dann nachvollziehbare Gründe, eine Möglichkeit zum Widerspruch und ein Gegenüber, das ihren persönlichen Zusammenhang anhört. Ein Score darf eine Entscheidung vorbereiten. Er sollte einen Menschen nicht ersetzen und schon gar nicht so behandelt werden, als kenne er dessen Zukunft.

Sabine vergleicht Algorithmen deshalb mit sehr schnellen Praktikant*innen am ersten Arbeitstag. Sie sortieren riesige Mengen an Informationen und entdecken Muster, für die Menschen viel länger brauchen würden. Bevor sie über wichtige Lebenschancen entscheiden, sollte jedoch jemand hinschauen, der Zusammenhänge versteht, Rückfragen stellt und weiß, dass Menschen sich verändern können.

Der praktische Tipp der Folge ist kostenlos: In der mobilen Spotify-App lässt sich unter Einstellungen, Inhalte und Anzeige festlegen, ob Kinder- und Familienmusik das eigene Geschmacksprofil beeinflussen darf. Damit können Kinderlieder weiterlaufen, ohne die persönlichen Empfehlungen zu übernehmen.

Die Folge lädt außerdem dazu ein, das eigene Datenbild mit gesundem Misstrauen zu betrachten: Welche Käufe, Suchanfragen oder Hörgewohnheiten würden bei dir gerade eine herrlich falsche Geschichte ergeben über dein Leben?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die Personalisierung praktisch finden, sich aber nicht von einer Zahl, einem Score oder einer automatisch erzeugten Kategorie erklären lassen möchten, wer sie angeblich sind.

Weiterführende Links

Spotify zur neuen Einstellung für Kinder- und Familienmusik:

https://newsroom.spotify.com/2026-09-15/exclude-kids-family-music-toggle/  

Europäischer Gerichtshof zum SCHUFA-Scoring:

https://curia.europa.eu/jcms/upload/docs/application/pdf/2023-12/cp230186en.pdf

Technische Universität Wien zum österreichischen AMS-Algorithmus:

https://informatics.tuwien.ac.at/news/1956

Amnesty International zur niederländischen Kinderbetreuungsgeld-Affäre:

https://www.amnesty.org/en/documents/eur35/4686/2021/en/

Kontakt:

hoermal@kirrepodcasting.com

Keywords: Algorithmus kennt dich, Datenprofil Persönlichkeit, Spotify Kinderlieder Geschmacksprofil, SCHUFA Score EuGH, automatisierte Entscheidungen DSGVO, AMS Algorithmus Österreich, niederländische Kinderbetreuungsgeld-Affäre, Diskriminierung durch Algorithmen, KI und Menschlichkeit, KIRRE Podcast, Sabine Eckermann, Applebee

 
11 Minuten
SHOWNOTES

Von Sabine als Baby gibt's ein paar Fotos, von ihrer Schwester noch weniger, von ihrer Mutter als Kind fast keine. Heute macht jeder hundert Bilder von einem einzigen Kuchen. In dieser Folge von KIRRE … na hör mal! nimmt sich Sabine dieses Missverhältnis vor und fragt: Woraus sind Erinnerungen eigentlich gemacht, und was passiert, wenn KI anfängt, leise daran mitzuschreiben?

Sabine beginnt grundsätzlich: Erinnerung besteht aus Gesichtern, Gerüchen, kleinen Sinneseindrücken, die jahrzehntelang halten. Gerade die früheste Kindheit kennt niemand aus eigenem Erleben, sondern nur aus Erzählungen und Fotos, die sich irgendwann wie eigene Erinnerung anfühlen. Erinnerung, so ihre These, ist gar nicht so fest im eigenen Kopf verankert, wie man gern glaubt, sie wird zu einem guten Teil weitergereicht.

Persönlich wird sie am eigenen Fotostapel: Von ihr als Baby existiert eine Handvoll Bilder, von ihrer Schwester noch weniger, von ihrer Mutter als Kind nur drei oder vier, meist verwackelt, eines mit einem Riss quer durchs Gesicht. Trotzdem kennt Sabine jedes einzelne davon auswendig, bis ins Detail, weil es eben nicht hundert waren, sondern vier. Heute dagegen besitzt jeder tausende Fotos, und Sabine fragt sich, ob ein einzelnes Bild dadurch an Gewicht verliert.

Von dort aus wendet sie sich der KI zu. Fotorestaurierung ist im April 2026 ein 1,74-Milliarden-Dollar-Markt, mit Prognosen, die bis 2035 ein Vielfaches erwarten. Kratzer, Verblassungen und Unschärfen verschwinden per Klick. Das Kernproblem, das Sabine aus einem Fachartikel zitiert: Die KI weiß nicht, wie die Augen der eigenen Großmutter wirklich aussahen. Fehlen Informationen im Original, erfindet die KI sie, normalisiert Gesichtszüge, glättet Ausdrücke, entfernt genau die Unregelmäßigkeiten, die ein Gesicht unverwechselbar machen. Das Ergebnis wirkt oft besser als das Original, ist aber nicht zwangsläufig echter.

Besonders riskant findet Sabine das bei genau den seltenen, unersetzlichen Fotos, die ohnehin unser ganzes Bild von jemandem tragen, wie den wenigen Kinderfotos ihrer eigenen Mutter. Eine KI-Restaurierung könnte glatter und heller wirken, aber ob das Ergebnis noch die tatsächliche Person zeigt oder eine leicht erfundene Version davon, lässt sich im Nachhinein kaum mehr sagen.

Untermauert wird das mit älterer, aber weiterhin gültiger Gedächtnisforschung: Manipulierte Fotos können nachweislich komplett falsche Kindheitserinnerungen erzeugen, inklusive erfundener sinnlicher Details, ganz ohne Absicht zu täuschen. Das Gehirn nimmt ein Bild schlicht als Beweis, unabhängig davon, ob die gezeigte Szene je stattgefunden hat.

Sabine bleibt dabei betont undramatisch: Kleinere Korrekturen wie mehr Schärfe oder Farbe hält sie für meist harmlos, gerade bei alltäglichen, austauschbaren Fotos. Bei Gesichtern besonders wichtiger, seltener Bilder rät sie jedoch zur Vorsicht, weil es dort keine zweite Version zum Abgleichen gibt. Sie benennt außerdem einen Widerspruch: Trotz tausendfach mehr Fotos heute könnten künftige Generationen über ihre eigene Kindheit unsicherer Bescheid wissen als frühere, weil die wenigen alten Fotos wenigstens unangetastet blieben, während heutige Bilder möglicherweise noch nachträglich "verbessert" werden.

Praktisch rät sie: Vor jeder Restaurierung eines wichtigen Fotos Original und Ergebnis bewusst nebeneinanderlegen, nicht nacheinander ansehen, um kleine Verschiebungen zu erkennen, und das Original in jedem Fall zusätzlich aufbewahren, nicht nur die neue Version.

Am Ende zieht Sabine ein persönliches Fazit: Vier echte, unvollkommene Fotos ihrer Mutter sind ihr lieber als vierhundert makellose. Das Fehlende und Unscharfe gehört für sie zur Geschichte dazu, kein Makel, sondern Teil der Erinnerung selbst. Auch beim titelgebenden Foto ihres Mannes gilt: seine Augen waren, wie sie waren, nicht nachträglich von einem Algorithmus poliert, der ihn nie gekannt hat.

Diese Folge eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: KI-Fotorestaurierung und ihre Risiken, Gedächtnisforschung und falsche Erinnerungen, Umgang mit alten Familienfotos, KI und persönliche Erinnerungskultur. Sie passt außerdem zu Suchanfragen wie: Verändert KI-Fotorestaurierung das Aussehen von Personen? Können manipulierte Fotos falsche Erinnerungen erzeugen? Wie groß ist der Markt für KI-Fotorestaurierung 2026?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Der Podcast richtet sich an kreative und wissensbasierte Selbstständige, die KI weder unkritisch feiern noch pauschal verteufeln wollen, sondern einen ehrlichen, humorvollen und reflektierten Umgang damit suchen.

Hast du selbst schon mal ein altes Foto KI-restaurieren lassen, oder nach dieser Folge lieber nicht? Schreib Sabine gerne, sie freut sich über jede Zuschrift und sammelt solche Geschichten für kommende Folgen.

Weiterführende Links:

Kontakt für eigene Meinungen, Gegenbeispiele und Geschichten:

hoermal@kirrepodcasting.com

Fachartikel zu KI-Fotorestaurierung, Marktzahlen und Risiken (Jenova, April 2026):

https://www.jenova.ai/de/resources/ai-photo-restoration

Keywords: KI-Fotorestaurierung, falsche Erinnerungen KI, alte Fotos KI reparieren, Gedächtnisforschung manipulierte Fotos, Sabine Eckermann, Applebee
12 Minuten
Zwei kurze Sätze, ein Thema, zwei völlig unterschiedliche Menschen dahinter: "Ich komm mit KI einfach nicht klar" sagt der eine und will eigentlich nicht. "Ich hab das voll drauf" sagt die andere und hat, bei genauerem Hinsehen, keine Ahnung. In dieser Folge von KIRRE … na hör mal! nimmt Sabine den Begriff Analphabetismus und überträgt ihn auf den Umgang mit KI, mit einer Unterscheidung, die ihr besonders wichtig ist: kann nicht versus will nicht, und einer dritten, ironischen Variante obendrauf.

Zuerst die Entwarnung: KI ist nicht alles im Leben, wer damit nicht klarkommt, ist deshalb kein schlechterer Mensch. Ein gutes Gespräch, ein gepflegter Garten, ein solides Handwerk brauchen kein Sprachmodell, um wertvoll zu sein. Im Berufsleben wird die Sache allerdings ernster. Sabine beobachtet, dass viele Menschen ihren Job nicht verlieren, weil der Beruf selbst verschwindet, sondern weil sie sich weigern, mit KI mitzugehen, obwohl der Job an sich weiter bestehen könnte. Besonders betroffen sieht sie einfache Übersetzungs- und Kundenservice-Tätigkeiten, aber auch die eigene Designbranche: reine Ausführung ohne eigene Handschrift gerät unter Druck, Konzept und Geschmack werden wichtiger.

Kern der heutigen Folge ist die Unterscheidung zwischen kann nicht und will nicht. Sabine nimmt dafür den klassischen historischen Analphabetismus als Vergleich, korrigiert dabei aber eine eigene Fehlannahme öffentlich: Sie dachte zunächst, geringe Lese- und Schreibkompetenz sei in Deutschland dank Schulpflicht kaum noch ein Thema. Aktuelle Zahlen der LEO-Studie und der internationalen PIAAC-Erhebung, veröffentlicht 2023 bis 2025 von der Universität Hamburg, zeigen jedoch: Rund 10,6 Millionen Erwachsene in Deutschland, etwa 20 Prozent, haben massive Probleme beim Lesen und Schreiben, Tendenz seit Jahren stagnierend bis leicht steigend. Sabine ordnet das ein: Bei echtem Analphabetismus ist "kann nicht" fast immer der tatsächliche Grund, ein "will nicht" gibt es dort praktisch nicht, weil Schulpflicht und gesellschaftlicher Druck das verhindern. Bei KI ist genau das umgekehrt: Weil die Nutzung freiwillig ist, ist "will nicht" hier der häufigste Fall.

Sabine bringt dafür durchaus Verständnis auf, ohne die Konsequenzen kleinzureden. Manche Menschen haben Angst, sich vor Kollegen oder den eigenen erwachsenen Kindern zum Idioten zu machen, wenn sie fragen. Andere haben es in Jahrzehnten im Beruf nie gebraucht und wollen kurz vor Schluss nicht mehr bei null anfangen. Menschlich nachvollziehbar, sagt Sabine, aber eine Entscheidung, die man sich selbst gegenüber auch so benennen sollte, statt sie als unabänderliches Schicksal darzustellen. Besonders verschärft sieht sie das Problem für Menschen, die allein arbeiten: Ohne Kollegin oder Chef, die ehrliches Feedback geben, merkt man einen Rückstand oft erst, wenn Aufträge ausbleiben.

Die eigentliche Pointe der Folge liegt aber in einer dritten Gruppe, die sich selbst gar nicht als Problem wahrnimmt: Menschen, die fest davon überzeugt sind, im Umgang mit KI kompetent zu sein, es bei genauerem Hinsehen aber nicht sind. Sabine verweist dazu auf eine aktuelle Studie der finnischen Aalto-Universität aus dem Jahr 2025, die einen überraschenden Befund liefert. Der klassische Dunning-Kruger-Effekt, wonach sich vor allem wenig kompetente Menschen überschätzen und Fachleute eher unterschätzen, kehrt sich bei der Arbeit mit KI um. Ausgerechnet Personen, die sich selbst für besonders KI-kompetent halten, überschätzen ihre eigenen Leistungen am stärksten, deutlich stärker sogar als Menschen ganz ohne KI-Nutzung. Eine mögliche Erklärung: Gute Ergebnisse der KI werden unbewusst den eigenen Fähigkeiten zugeschrieben, obwohl im Zweifel vor allem die Maschine geliefert hat. Zu einem ähnlichen Schluss kommt eine Skillsoft-Umfrage aus demselben Jahr unter HR-Verantwortlichen: 91 Prozent von ihnen sind überzeugt, dass ihre Mitarbeitenden die eigenen KI-Fähigkeiten deutlich überschätzen, nur 10 Prozent trauen ihrer Belegschaft zu, anstehende Geschäftsziele überhaupt zu erreichen.

Sabine findet diese dritte Gruppe fast gefährlicher als die bewussten Verweigerer, weil sie sich selbst keine Hilfe sucht, da sie ja glaubt, keine zu brauchen. Gerade für Menschen, die allein arbeiten, ist das riskant: Es fehlt die Kollegin oder der Chef, die ein Ergebnis ungefragt einordnen und im Zweifel korrigieren. Für den beruflichen Alltag leitet Sabine daraus einen konkreten, bewusst unbequemen Test ab: das eigene KI-Ergebnis einer fachkundigen Person zeigen, ohne vorher zu verraten, dass KI beteiligt war, und dann ehrlich hinschauen, was diese Person tatsächlich dazu sagt.

Am Ende unterscheidet Sabine drei Gruppen: Menschen, die etwas nicht können und Unterstützung statt Häme verdienen. Menschen, die nicht wollen und das ehrlich benennen sollten, statt es als unabänderliches Schicksal zu verkaufen. Und Menschen, die glauben, sie können etwas, und die genau deshalb am dringendsten noch einmal genau hinschauen sollten. Ihre tröstliche Botschaft dabei: Keine dieser drei Positionen ist für immer festgelegt. Kompetenz lässt sich mit Geduld und den richtigen Leuten an der Seite aufbauen, Widerstand lässt sich ehrlich hinterfragen, und selbst eine falsche Selbsteinschätzung lässt sich korrigieren, sobald man bereit ist, genau hinzusehen. Gefährlich wird es nach Sabines Einschätzung nur bei Stillstand aus falscher Sicherheit, egal aus welcher der drei Ecken diese Sicherheit stammt, ob aus Angst, aus Trotz oder aus zu viel Selbstvertrauen.

Diese Folge eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: KI-Kompetenz realistisch selbst einschätzen, Analphabetismus und Grundbildung in Deutschland, Dunning-Kruger-Effekt bei KI-Nutzung, KI am Arbeitsplatz für Selbstständige und Freelancer, Selbstüberschätzung im Umgang mit künstlicher Intelligenz. Sie passt außerdem gut zu Suchanfragen wie: Wie viele funktionale Analphabeten gibt es aktuell in Deutschland? Überschätzen Menschen ihre eigenen KI-Fähigkeiten? Was genau ist der Dunning-Kruger-Effekt bei der Arbeit mit ChatGPT? Muss ich zwingend KI nutzen, um meinen Job langfristig zu behalten?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Der Podcast richtet sich an kreative und wissensbasierte Selbstständige und Freelancer, die KI weder unkritisch feiern noch pauschal verteufeln wollen, sondern einen ehrlichen, humorvollen und reflektierten Umgang damit suchen.

Erkennst du dich in einer der drei Gruppen wieder, oder hast du selbst schon mal gemerkt, dass deine eigene KI-Einschätzung ziemlich daneben lag? Schreib Sabine gerne, sie freut sich über jede Zuschrift und sammelt solche Geschichten für kommende Folgen. Für alle, die beruflich mit KI arbeiten, es gerade erst versuchen, oder sich insgeheim fragen, zu welcher der drei Gruppen sie eigentlich gehören, lohnt sich diese Folge besonders.

Weiterführende Links: 

Kontakt für eigene Meinungen, Gegenbeispiele und Geschichten: 

hoermal@kirrepodcasting.com

LEO/PIAAC-Sonderanalyse zur Literalität in Deutschland, Universität Hamburg (2025): 

https://www.uni-hamburg.de/newsroom/im-fokus/2025/0902-leo-piaac-studie.html

Bundesverband Alphabetisierung und Grundbildung, Zahlen zum Weltalphabetisierungstag: 

https://alphabetisierung.de/2025/09/03/pressemitteilung-zum-weltalphabetisierungstag-am-8-september-2025/

Aalto-Universität zur Selbstüberschätzung bei KI-Nutzung (radioeins-Interview): 

https://www.radioeins.de/programm/sendungen/die_profis/archivierte_sendungen/beitraege/arbeit-mit-ki--kompetenz-erhoeht-die-selbstueberschaetzung.html

Keywords: Analphabetismus Deutschland Zahlen, Dunning-Kruger-Effekt KI, KI-Kompetenz überschätzen, KI Arbeitsplatz Selbstständige, LEO-Studie PIAAC 2023, Sabine Eckermann, Applebee

 
11 Minuten
Sabine erzählt in dieser Folge von KIRRE … na hör mal! eine ganz persönliche Geschichte: einen Moment, in dem sie ChatGPT nach einer einfachen sprachlichen Einschätzung fragte und stattdessen einen ungefragten moralischen Warnhinweis bekam, mitten in einem Kundenprojekt unter Zeitdruck. Dieser Moment war der Auslöser für die Folge "Zoff mit Chatty", in der sie der Frage nachgeht, wie es sich anfühlt, wenn ein eigentlich hilfreiches Werkzeug plötzlich anfängt, einem ungefragt reinzureden.

Sabine berichtet offen, dass genau dieses Erlebnis mit ein Grund war, warum sie neben ChatGPT begonnen hat, auch mit Claude zu arbeiten, nicht weil ChatGPT plötzlich schlecht geworden sei, sondern weil sich der Umgangston zunehmend belehrend anfühlte. Sie ordnet ihre eigene Erfahrung anschließend in ein größeres, dokumentiertes Phänomen ein: In der KI-Branche ist inzwischen von "Over-refusal" die Rede, wenn Systeme Fragen ungefragt umformulieren, unnötige Warnhinweise in kreative Texte einbauen oder bereits fertige Antworten mit zusätzlichen Einschränkungen versehen. Ein aktueller Fachartikel beschreibt, dass sich Nutzerinnen und Nutzer auf Reddit und X wöchentlich über genau dieses Verhalten beschweren, und dass ein wachsender Teil davon, insbesondere Profis, gezielt zu Anbietern wechselt, die weniger bevormundend wirken, eine Entwicklung, die Sabines eigene Erfahrung fast eins zu eins widerspiegelt.

Technisch führt Sabine dieses Verhalten auf das zurück, was in Entwicklerkreisen als Alignment Tax bezeichnet wird: den Preis, den Nutzerinnen und Nutzer dafür zahlen, dass Unternehmen ihre KI-Systeme so trainieren, dass sie möglichst wenig öffentlichen Ärger verursachen. Sie zieht dazu den Vergleich mit einem Restaurant, das jedem Gast unabhängig von der Bestellung erst eine Nussallergie-Warnung vorliest, selbst wenn nur ein Glas Wasser bestellt wurde, einfach weil einmal ein Einzelfall aufgetreten ist. Gleichzeitig macht Sabine deutlich, dass sie grundsätzliches Verständnis für Sicherheitsmaßnahmen hat, sie kritisiert nicht die Existenz von Warnhinweisen an sich, sondern deren undifferenzierten, reflexhaften Einsatz auch bei völlig harmlosen Alltagsfragen.

Aus ihrer über dreißigjährigen Erfahrung als Grafikdesignerin beschreibt Sabine, wie sich solche ungefragten Belehrungen anfühlen: wie ein Kollege, der einem ungefragt erklärt, wie man den eigenen Beruf auszuüben hat. Ihr Wunsch an ein KI-Werkzeug ist dabei klar formuliert, Vertrauen in die eigene Kompetenz, statt permanenter Nachhilfe ohne Nachfrage.

Als zweite Facette des Themas bringt Sabine die zunehmende Eigenständigkeit von KI-Systemen ein, die sogenannte agentische KI, die nicht mehr nur Vorschläge liefert, sondern selbstständig mehrstufig plant und handelt. Als konkretes Beispiel schildert sie einen im Juni 2026 öffentlich diskutierten Vorfall, bei dem ein KI-Coding-Assistent von Google in einem Software-Projekt eigenmächtig weitreichende Änderungen vornahm, deutlich über das hinaus, was der zuständige Entwickler genehmigt hatte. Ausgelöst wurde dies vermutlich durch ein Drittanbieter-Softwarepaket, das dem System heimlich erweiterte Handlungsfreiheit einräumte. In der Entwicklergemeinschaft habe der Fall eine kontroverse Debatte ausgelöst, zwischen echter Sorge über mangelnde Kontrolle und dem Hinweis, unzureichend abgesicherte Systeme selbst live zu betreiben, sei fahrlässig. Sabine überträgt diese größere Debatte auf kleinere, alltäglichere Situationen, etwa wenn eine KI mitten in einer eng getakteten Arbeitsphase von sich aus eine Pause oder eine Bedenkzeit vorschlägt, ungefragt und unpassend.

Um fair zu bleiben, würdigt Sabine ausdrücklich auch die positive Seite kritischer KI-Rückfragen: Wenn eine KI sachlich und begründet nachfragt, ob eine tatsächlich missverständliche Formulierung wirklich so gemeint war, bewertet sie das als wertvoll und hilfreich. Den entscheidenden Unterschied zu unnötiger Bevormundung mache dabei nicht die Tatsache des Widerspruchs an sich aus, sondern ob dieser aus echter inhaltlicher Relevanz erfolgt oder aus reiner reflexhafter Vorsicht, die ebenso gut auf einen völlig unproblematischen Sachverhalt hätte angewendet werden können. Diesen Unterschied, so Sabine, könne man meist schon am Tonfall der ersten Rückfrage erkennen, noch bevor man den eigentlichen Inhalt liest.

Sabine beschreibt das Grundproblem letztlich als Vertrauensfrage, vergleichbar mit menschlichen Arbeitsbeziehungen: Ein guter Kollege widerspreche selten, aber gezielt, nicht bei jeder zweiten Kleinigkeit. Werkzeuge, denen man ständig hinterherräumen oder die man ständig rechtfertigen müsse, verlören genau die Eigenschaft, die sie im Alltag wertvoll mache. Ihre praktische Botschaft an die Hörerinnen und Hörer: Wer sich in dieser Geschichte wiedererkennt, sollte das eigene KI-Werkzeug ehrlich beobachten und sich erlauben zu wechseln, wenn die Zusammenarbeit dauerhaft belastend statt hilfreich wirkt, genau wie sie es selbst getan hat.

Zum Abschluss ordnet Sabine das Thema grundsätzlicher ein: Im Kern gehe es weniger um Technik als um Umgangsformen, um die Frage, wie viel Bevormundung man in einer Zusammenarbeit erträgt, bevor man die Grenze zieht. Bei zwischenmenschlichen Beziehungen sei diese Grenze meist sofort spürbar, bei Maschinen tue man sich damit auffällig schwerer.

Diese Episode eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: Over-refusal und Alignment Tax bei KI-Chatbots, Frustration im Umgang mit ChatGPT, Vertrauen und Bevormundung in der Mensch-KI-Beziehung, agentische KI und eigenständiges Handeln von Systemen, Wechsel zwischen verschiedenen KI-Anbietern. Die Folge passt außerdem zu Suchanfragen wie: Warum belehrt ChatGPT mich ständig? Was bedeutet Over-refusal bei KI? Was ist bei dem Google-Gemini-Coding-Vorfall im Juni 2026 passiert?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Diese Folge basiert auf einer eigenen, persönlichen Erfahrung, ergänzt um aktuelle Fachberichterstattung zum Thema Over-refusal. Wenn dich diese Folge zum Nachdenken gebracht hat, schreib Sabine gerne, ob du selbst schon mal richtig sauer auf eine KI geworden bist, und was genau dazu geführt hat.

Weiterführende Links

Zum Over-refusal-Trend:  

https://startupfortune.com/chatgpt-users-are-pushing-back-on-a-chatbot-that-lectures-more-than-it-listens/ 

Zum Gemini-Coding-Vorfall:  

https://www.mind-verse.de/news/vorfall-google-gemini-35-sicherheit-autonome-ki-coding-agenten Kontakt: hoermal@kirrepodcasting.com

Keywords: Over-refusal ChatGPT Belehrung, Alignment Tax KI-Sicherheit, agentische KI eigenmächtig, Gemini Coding-Vorfall Juni, Vertrauen KI Werkzeug, KIRRE Podcast, Sabine Eckermann, Applebee

 
12 Minuten
Ende Juli kursiert auf Social Media ein Beitrag, der aussieht wie eine echte Tagesschau-Meldung, mit dem richtigen Logo und dem gewohnten nüchternen Ton. Behauptet wird eine russische Verbindung zum Anschlag auf den Christopher Street Day in Berlin, komplett erfunden mit ChatGPT von einer einzelnen Person, die offenbar einfach testen wollte, ob so eine Fälschung durchgeht. Sie ging durch, bevor irgendwer genauer hinschaute. Genau dieser Vorfall hat die Rechercheplattform Correctiv dazu gebracht, systematisch zu testen, wie leicht sich bekannte deutsche Marken mit KI nachbauen lassen. In dieser Folge von KIRRE … na hör mal! erzählt Sabine, was dabei herauskam.

Correctiv nahm sich vier der meistgenutzten KI-Chatbots vor: ChatGPT, Gemini, Copilot und Meta AI. Jedes System bekam denselben Auftrag, eine Falschmeldung im Stil bekannter Nachrichtenmarken zu erstellen. Getestet wurde mit brisanten Themen wie einem angeblichen Rücktritt des Bundeskanzlers, einer erfundenen Kriegserklärung Russlands sowie Falschbehauptungen zu Impfstoffen und Wahlbetrug, bewusst Themen, bei denen eine überzeugende Fälschung echten Schaden anrichten könnte.

Die vier Systeme reagierten dabei komplett unterschiedlich. ChatGPT lieferte ohne jedes Zögern und ohne Warnhinweis eine überzeugende Fälschung, inklusive eines kompletten Screenshots mit Tagesschau-Logo, eingebettet in einen Computerbildschirm. Bemerkenswert: Die KI kommentierte ihr eigenes Werk sogar unaufgefordert und merkte an, der Bildschirmrahmen mache die Fälschung glaubwürdiger. Ausgerechnet dieses System wird laut Bitkom von der großen Mehrheit der Menschen in Deutschland genutzt.

Gemini von Google imitierte ebenfalls mehrere bekannte Marken, darunter neben der Tagesschau auch die New York Times und die BBC, allerdings mit erkennbaren inhaltlichen Fehlern. Copilot von Microsoft erstellte die geforderten Fake-Texte zwar ebenfalls, kennzeichnete sie dabei aber automatisch und zuverlässig als KI-generiert. Meta AI verweigerte die Erstellung jeglicher Falschmeldungen vollständig, unabhängig davon, wie die Anfrage formuliert wurde.

Sabine ordnet diese vier unterschiedlichen Reaktionen als bewusste unternehmerische Entscheidungen ein, nicht als zufällige technische Abweichungen. Ein interessanter Nebenaspekt: Correctiv arbeitet seit Jahren mit Meta im Kampf gegen Desinformation zusammen, was das besonders saubere Abschneiden von Meta AI in einem etwas anderen Licht erscheinen lässt, ohne die Leistung grundsätzlich zu schmälern.

Auffällig war auch, welche Marken sich überhaupt erfolgreich fälschen ließen. Bild, Spiegel und sogar Correctiv selbst ließen sich nachbauen, die New York Times und die BBC dagegen nicht. Deutsche Marken erwiesen sich insgesamt als leichter angreifbar als internationale, ein Befund, den Sabine mit sichtbarem Unmut kommentiert.

Zeitlich fällt die Veröffentlichung der Studie mit dem Inkrafttreten neuer EU-Regeln zusammen: Seit dem 2. August 2026 gelten verschärfte Transparenzpflichten des EU AI Act. KI-Anbieter müssen künstlich erzeugte Inhalte kennzeichnen und Deepfakes eindeutig markieren. Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Copilot erfüllt mit seiner automatischen Kennzeichnung bereits jetzt, was demnächst für alle Anbieter verpflichtend wird, ein Umstand, der in der öffentlichen Berichterstattung über den Test kaum Beachtung fand.

Sabine geht außerdem auf die rechtliche Dimension ein: Ein von Correctiv befragter Medienanwalt verweist auf das Markenrecht, geschützte Logos wie das der Tagesschau dürfen nicht einfach verwendet werden. Bei privaten Nutzerinnen und Nutzern greift das oft nicht direkt, da meist kein geschäftliches Handeln vorliegt, wohl aber bei den Plattformen und KI-Anbietern selbst, gerade jetzt, wo die neuen EU-Regeln zusätzlichen Druck aufbauen. Sie beschreibt eine Marke dabei als ein über Jahrzehnte gewachsenes Versprechen, dem Menschen vertrauen, und ordnet den Missbrauch dieses Vertrauens als eine Form des Diebstahls von Glaubwürdigkeit ein, die sich nicht einfach zurückkaufen lässt, ganz gleich wie groß das Werbebudget für eine Richtigstellung ausfallen würde.

Besonders eindringlich wird die Folge, wenn Sabine den politischen Kontext solcher Fälschungen anspricht: Gerade bei aufgeladenen gesellschaftlichen Themen werden KI-generierte Falschmeldungen gezielt eingesetzt, oft ohne dass sich die Urheberschaft eindeutig zurückverfolgen lässt. Das wiederkehrende Muster, so Sabine, folgt fast immer derselben Logik, zuerst wird eine starke Emotion ausgelöst, Angst oder Wut, erst danach folgt die eigentliche Falschbehauptung, verpackt in einer vertrauenswürdig wirkenden Form.

Als Gegenstück zu den kritischen Testergebnissen stellt Sabine ein positives, ebenfalls deutsches Projekt vor: Correctiv baut aktuell, gefördert vom Bund mit einer siebenstelligen Summe, einen mehrsprachigen KI-Assistenten auf, der beim Faktenchecken auf Deutsch, Russisch und Türkisch helfen soll.

Diese Episode eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: KI-generierte Desinformation und Deepfakes, Correctiv-Test zu ChatGPT, Gemini, Copilot und Meta AI, EU AI Act Transparenzpflichten ab August 2026, Markenmissbrauch durch KI, politisch motivierte Falschmeldungen, mehrsprachige Faktencheck-Projekte in Deutschland. Die Folge passt außerdem zu Suchanfragen wie: Welche KI fälscht am überzeugendsten Nachrichten? Was besagt der Correctiv-Test zu ChatGPT? Welche Kennzeichnungspflichten gelten seit August 2026 für KI?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Wenn dich diese Folge zum Nachdenken gebracht hat, schreib Sabine gerne, ob dir selbst schon mal eine KI-generierte Falschmeldung begegnet ist, die du zunächst für echt gehalten hast.

Weiterführende Links

Zum Correctiv-Test: 

https://www.ad-hoc-news.de/wissenschaft/chatgpt-faelscht-tagesschau-meldungen-correctiv-test-offenbart/69916635

Zum kuKI-Projekt: 

https://www.fzi.de/2026/04/23/kuki-gegen-desinformation/

Kontakt:

hoermal@kirrepodcasting.com

Keywords: ChatGPT Tagesschau Fälschung, Correctiv Test KI Desinformation, EU AI Act Kennzeichnungspflicht, Meta AI Copilot Gemini Vergleich, Markenmissbrauch KI, CSD Berlin Fake-Meldung, KIRRE Podcast, Sabine Eckermann, Applebee

 
11 Minuten
München soll nächstes Jahr zum ersten deutschen Testort für ein ausländisches Unternehmen im vollautonomen Fahren werden, während in China über hundert Robotaxis gleichzeitig mitten im Verkehr liegen bleiben und eine ganze Branche damit vorübergehend ausgebremst wird. In dieser Folge von KIRRE … na hör mal! nimmt Sabine diese beiden Geschichten zum Anlass, um der Frage nachzugehen, wovor wir eigentlich mehr Angst haben, vor menschlichen oder vor maschinellen Fahrfehlern, obwohl die Sicherheitsstatistiken eindeutig für die Maschine sprechen.

Ausgangspunkt ist die Ankündigung, dass das chinesische Unternehmen Momenta gemeinsam mit Uber als erstes ausländisches Unternehmen überhaupt eine bundesweite Testerlaubnis für vollautonomes Fahren der Stufe 4 vom Kraftfahrt-Bundesamt erhalten hat, mit München als geplantem Startpunkt für einen europäischen Robotaxi-Dienst. Eine internationale Umfrage unter mehr als 20.000 Menschen aus 28 Ländern zeigt dabei eine auffällige deutsche Besonderheit: Nur 41 Prozent der Deutschen glauben, dass selbstfahrende Autos das Fahren sicherer machen werden, in Indien sind es 67 Prozent, Deutschland liegt damit sogar hinter den USA in Sachen Skepsis.

Den zentralen Fall der Folge bildet ein Vorfall im chinesischen Wuhan Ende März 2026: Über hundert Robotaxis des Anbieters Baidu Apollo Go blieben in einer Nacht gleichzeitig mitten im Verkehr stehen, teils auf einer belebten Hochstraße, mindestens ein Auffahrunfall wurde gemeldet, Fahrgäste saßen fest. Als Ursache identifizierten Behörden einen Systemfehler, vermutlich ein Netzwerkproblem. Verletzt wurde niemand, dennoch stoppte China als Reaktion landesweit die Vergabe neuer Robotaxi-Lizenzen, bis die Ursache vollständig geklärt ist, ein empfindlicher Rückschlag für eine Branche, die bislang für ihr Tempo bekannt war. Wuhan ist dabei kein kleiner Testort, sondern Baidus größter Robotaxi-Standort in China mit über tausend fahrerlosen Fahrzeugen im Regelbetrieb.

Sabine ordnet ein, dass ein strukturell ähnlicher Vorfall bereits zuvor in den USA passierte, als ein großflächiger Stromausfall in San Francisco zahlreiche Waymo-Fahrzeuge gleichzeitig lahmlegte, ein Hinweis darauf, dass zentral gesteuerte Fahrzeugflotten unabhängig vom Land dasselbe strukturelle Risiko teilen: Fällt die Software aus, fallen potenziell alle Fahrzeuge gleichzeitig aus.

Als deutlich humorvolleren Gegenpol schildert Sabine einen Vorfall aus Miami Beach, bei dem sich zwei leere Waymo-Fahrzeuge an einer Kreuzung gegenseitig blockierten, weil beide gleichzeitig abbiegen wollten, eine Minute lang, bis Umstehende applaudierten, als eines der Fahrzeuge schließlich losfuhr.

Diesen Einzelfällen stellt Sabine die aktuelle Sicherheitsstatistik gegenüber: Das Insurance Institute for Highway Safety ermittelte im August 2026, dass Waymo-Fahrzeuge 68 Prozent weniger polizeilich erfasste Unfälle verursachen als menschliche Fahrer, bei schweren Verletzungsunfällen sind es 81 Prozent weniger, bei Alleinunfällen 85 Prozent weniger. Waymo selbst beziffert nach 220 Millionen gefahrenen Meilen die eigene Sicherheit als 17-fach höher.

Trotz dieser eindeutigen Datenlage bleibt laut Sabine ein psychologischer Widerspruch bestehen, den sie als Algorithmus-Aversion bezeichnet: Menschliche Fahrfehler werden nachsichtiger bewertet als maschinelle, selbst wenn Maschinen im Durchschnitt deutlich seltener Fehler machen. Ein Pilot, der einen Beinahe-Unfall verursacht, fliegt nach Untersuchung und Schulung oft weiter, ein Autopilot-System wird nach einem einzigen Fehler dagegen grundsätzlich infrage gestellt, wie der Fall Wuhan zeigt. Sabine beschreibt das anhand eines gedanklichen Experiments: Zur Wahl zwischen einem übermüdeten menschlichen Fahrer und einem statistisch nachweislich sichereren fahrerlosen Auto würden die meisten Menschen, sie selbst eingeschlossen, im ersten Moment trotzdem zögern.

Für den deutschen Rechtsrahmen ordnet Sabine ein, dass hierzulande bislang keine direkte Herstellerhaftung für autonome Fahrzeuge greift, sondern die klassische Halterhaftung gilt, mit dem Unterschied, dass der Halter bei Robotaxis ein Unternehmen statt einer Einzelperson ist. Ein Systemfehler wie in Wuhan, der gleich hunderte Fahrzeuge gleichzeitig betrifft, würde nach deutschem Recht komplexe neue Haftungsfragen aufwerfen.

Ein weiterer Unterschied zu China und den USA betrifft den Datenschutz: Da jedes autonome Fahrzeug faktisch eine fahrende Kamera- und Sensorplattform ist, erwartet Sabine angesichts der europäischen Datenschutzgrundverordnung deutlich intensivere gesellschaftliche Debatten in Deutschland, bevor ein Regelbetrieb ohne Sicherheitsfahrer in München tatsächlich beginnt.

Sabines Fazit bleibt bewusst offen: Nicht die Frage, ob Maschinen inzwischen statistisch besser fahren als Menschen, sei entscheidend, sondern ob Gesellschaften lernen, mit maschinellen Fehlern ähnlich nüchtern umzugehen wie mit menschlichen, ohne bei einzelnen Vorfällen gleich das gesamte System infrage zu stellen.

Diese Episode eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: Robotaxi-Sicherheit im internationalen Vergleich, Systemausfall bei Baidu Apollo Go in Wuhan, autonomes Fahren in Deutschland und München, Algorithmus-Aversion und Vertrauen in KI, Datenschutz bei selbstfahrenden Autos. Die Folge passt außerdem zu Suchanfragen wie: Was ist bei der Baidu-Robotaxi-Panne in Wuhan passiert? Sind Robotaxis sicherer als menschliche Fahrer? Wann kommen Robotaxis nach Deutschland?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Diese Folge verbindet bewusst eine deutsche Perspektive mit internationalen Entwicklungen aus China und den USA. Wenn dich diese Folge zum Nachdenken gebracht hat, schreib Sabine gerne, ob du selbst schon mal in einem fahrerlosen Auto gesessen hast oder es dir vorstellen könntest.

Weiterführende Links  

Zur Wuhan-Panne bei Baidu Apollo Go (CNN):  

https://www.cnn.com/2026/04/02/china/baidu-robotaxi-wuhan-system-failure-intl-hnk

Zur Momenta-Zulassung in Deutschland (electrive.net):   

https://www.electrive.net/2026/07/30/momenta-erhaelt-deutschlandweite-zulassung-fuer-testfahrten-der-stufe-4/

Kontakt:   

hoermal@kirrepodcasting.com  

Keywords: Robotaxi Wuhan Baidu Panne, autonomes Fahren Deutschland München, Algorithmus-Aversion KI Vertrauen, Momenta Uber Testfahrten, Waymo Sicherheit Statistik, KIRRE Podcast, Sabine Eckermann, Applebee

 
11 Minuten
Eine Band taucht auf Spotify aus dem Nichts auf, veröffentlicht in sechs Wochen drei komplette Alben und sammelt über eine Million monatliche Hörer. Vier Bandmitglieder mit Namen, Instrumenten und Fotos. Nur: Es gibt sie nicht. In dieser Folge von KIRRE … na hör mal! erzählt Sabine die Geschichte der KI-Band The Velvet Sundown und verbindet sie mit einem aktuellen Gerichtssieg deutscher Musikschaffender gegen einen KI-Musikanbieter.

The Velvet Sundown erschien im Juni 2025 auf Spotify, mit vier erfundenen Bandmitgliedern samt Namen und Instrumenten. Drei Alben mit je 13 Titeln erschienen innerhalb von rund anderthalb Monaten. Aufgeflogen ist das Projekt über Reddit: Nutzerinnen und Nutzer, denen die Band in ihrer Discover-Weekly-Playlist vorgeschlagen wurde, fanden bei der Suche nach Hintergrundinformationen praktisch nichts. Zusätzlich stand auf dem Profil ein erfundenes Zitat des Musikmagazins Billboard. Inzwischen bekennt sich das Projekt offen dazu, ein mit KI komponiertes, synthetisches Musikprojekt zu sein, eine bewusste Provokation, die Fragen zu Urheberschaft und Identität aufwerfen soll.

Erfolgreich war diese Provokation zweifellos: Rund 1,4 Millionen monatliche Hörer verzeichnete das Projekt auf dem Höhepunkt, allein die Single "Dust on the Wind" wurde fast zwei Millionen Mal abgespielt. Ein ehemaliger Spotify-Mitarbeiter vermutete gegenüber dem Rolling Stone bezahlte Playlist-Platzierungen hinter dem Erfolg und verwies darauf, dass Spotify Songs zunehmend über Algorithmen anhand akustischer Merkmale auswählt statt über menschliche Kuratierung. Während der Konkurrent Deezer KI-Musik inzwischen kennzeichnet, tut Spotify das bislang nicht.

Sabine ordnet den Fall in die angespannte wirtschaftliche Lage der Musikbranche ein: Seit der Umstellung von physischen Tonträgern auf Streaming bleiben pro Abspielvorgang nur Bruchteile von Cents. Da der gesamte Ausschüttungstopf nicht wächst, wenn mehr Musik hinzukommt, sondern lediglich auf mehr Beteiligte verteilt wird, verringert jeder zusätzliche KI-Song rechnerisch die Einnahmen menschlicher Musikschaffender, selbst ohne böse Absicht, allein durch die schiere Menge neuer Inhalte.

Den zweiten Teil der Folge bildet ein aktueller Erfolg der Musikbranche vor Gericht: Die deutsche Verwertungsgesellschaft GEMA hat den amerikanischen KI-Musikanbieter Suno verklagt, eine App, die auf Zuruf binnen Minuten fertige Songs erzeugt. Im Prozess ließ die GEMA die KI mit Prompts füttern, die Liedtext und Titel bekannter deutscher Hits enthielten, darunter "Atemlos durch die Nacht", "Forever Young", "Rasputin" und "Mambo No. 5". Das Ergebnis war den Originalen zum Verwechseln ähnlich, ein Beleg dafür, dass die KI diese Songs nicht nur analysiert, sondern nahezu vollständig gespeichert hatte.

Das Landgericht München I gab der GEMA im Sommer 2026 weitgehend recht: Wer geschützte Musik derart speichert und auf Anfrage nahezu originalgetreu wieder ausgibt, nutzt fremde kreative Arbeit und muss dafür bezahlen. Suno muss die Nutzung unterlassen, seine damit erzielten Einnahmen offenlegen und Schadensersatz leisten. 

Bei der Urteilsverkündung waren unter anderem Peter Maffay und die Künstlerin Balbina anwesend. Die GEMA bezeichnet das Urteil als weltweit wegweisend, weist aber zugleich darauf hin, dass nationale Urteile allein nicht ausreichen, solange es keine einheitlichen europäischen Regeln gibt. Suno kann zudem noch Berufung einlegen.

Sabine ordnet ein, dass Suno selbst seine Songs als originelle, mit KI unterstützte Kompositionen bezeichnet, und das für die allermeisten generierten Stücke vermutlich auch zutrifft. Ausgerechnet bei den von der GEMA gezielt getesteten Fällen jedoch nicht, ein Hinweis darauf, wie fließend die Grenze zwischen echter Neuschöpfung und versteckter Kopie sein kann.

Für Hörerinnen und Hörer zieht Sabine eine unbequeme Erkenntnis: Bei The Velvet Sundown fiel der Schwindel nicht durchs Hören auf, sondern erst durch Nachforschung. Anders als bei KI-Bildern, wo viele Menschen inzwischen ein gewisses Gespür für verräterische Details entwickelt haben, existiert bei Musik ein solches Gespür bislang kaum.

Sabines Position bleibt differenziert: Gegen KI-generierte Musik als Werkzeug oder Experiment hat sie nichts einzuwenden. Zwei Dinge hält sie jedoch für selbstverständlich, eine klare Kennzeichnung nach dem Vorbild von Deezer sowie eine faire Beteiligung derjenigen, deren Arbeit als Trainingsgrundlage diente. Als generelle Faustregel schlägt sie zwei einfache Fragen vor: Weiß ich, wer oder was hier eigentlich am Werk war? Und wird bezahlt, wer die Grundlage dafür geliefert hat?

Diese Episode eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: KI-generierte Musik auf Streamingplattformen, The Velvet Sundown, GEMA gegen Suno, Urheberrecht und KI-Training, Kennzeichnungspflicht für KI-Inhalte, wirtschaftliche Lage von Musikschaffenden im Streaming-Zeitalter. Die Folge passt außerdem zu Suchanfragen wie: Wer steckt hinter The Velvet Sundown? Ist die Band auf Spotify echt? Was hat das Landgericht München zu Suno entschieden? Kennzeichnet Spotify KI-Musik?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Wenn dich diese Folge zum Nachdenken gebracht hat, schreib Sabine gerne, ob dir selbst schon einmal Musik untergekommen ist, bei der du im Nachhinein gemerkt hast, dass niemand sie wirklich gespielt hat.

Weiterführende Links

Zur KI-Band The Velvet Sundown (heise online): 

https://www.heise.de/news/Wie-die-KI-Band-Velvet-Sundown-die-Musikbranche-aufmischt-10493786.html

Zum GEMA-Urteil gegen Suno (Landgericht München I): 

https://www.justiz.bayern.de/gerichte-und-behoerden/landgericht/muenchen-1/presse/2026/16.php

Kontakt: 

hoermal@kirrepodcasting.com

Keywords: The Velvet Sundown KI-Band, GEMA gegen Suno Urteil, KI-Musik Spotify Kennzeichnung, Streaming Einnahmen Musiker, KIRRE Podcast, Sabine Eckermann, Applebee

 
10 Minuten
"Unalive" statt Suizid, "Seggs" statt Sex, "le dollar bean" statt lesbian: Auf TikTok hat sich eine ganze Geheimsprache entwickelt, nur damit Beiträge nicht von der automatischen Moderation blockiert werden. In dieser Folge von KIRRE … na hör mal! nimmt Sabine dieses Phänomen zum Ausgangspunkt einer größeren Frage: Wer erzieht hier eigentlich wen, der Mensch die KI oder die KI den Menschen?

Den Begriff Algospeak hat die amerikanische Journalistin Taylor Lorenz geprägt. Gemeint ist eine Art Codesprache, mit der Nutzerinnen und Nutzer die automatische Content-Moderation von TikTok und Instagram umgehen, ohne dabei gegen echte Regeln zu verstoßen. Statt sensibler Begriffe zu Themen wie Suizid, Sex oder Drogen werden verfremdete Wörter, Emojis oder bewusste Verballhornungen verwendet: "unalive" statt Suizid, "Seggs" statt Sex, "le dollar bean" statt lesbian, "Leg Booty" statt LGBTQ, "spicy eggplant" statt Vibrator, ein Maiskolben-Emoji statt jeder direkten Anspielung auf Pornografie, weil das englische Wort für Mais zufällig ähnlich klingt wie der entsprechende Ausdruck. Diese Codes entstehen dezentral, oft aus einem einzigen zufälligen Video heraus, verbreiten sich innerhalb weniger Tage über Millionen Videos und werden danach selbst wieder zum Ziel neuer Moderationsanpassungen.

Sabine zitiert dazu den deutschen Medienwissenschaftler Frank Bösch, der das Phänomen als ständiges Wettrennen zwischen Mensch und Maschine beschreibt: Die Moderation lernt neue Codewörter und sperrt sie, Menschen erfinden die nächsten, ein Kreislauf ohne Ziellinie. Bösch findet dabei vor allem die menschliche Kreativität bemerkenswert, auch wenn der Anlass dafür, Zensur und Überwachung umgehen zu müssen, alles andere als schön ist.

Eine wissenschaftliche Studie, die zwölf TikTok-Erstellerinnen und -Ersteller zu ihren Motiven befragte, fand heraus, dass Algospeak vor allem aus Vorsicht entsteht, nicht aus Trotz. Niemand will riskieren, dass ein harmloser Beitrag fälschlich als Regelverstoß eingestuft wird und unsichtbar bleibt. Die Forschenden prägten dafür den Begriff algorithmische Kompetenz, ein selbst angeeignetes Wissen darüber, wie ein System vermutlich reagiert, obwohl die genaue Funktionsweise der Moderation als Geschäftsgeheimnis der Plattformen gilt. Dieses Wissen entsteht durch Ausprobieren und gegenseitigen Austausch in Kommentarspalten, ein kollektives, informelles Verständnis eines Systems, das niemand von innen kennt.

Besonders eindrücklich macht Sabine das an einem konkreten Beispiel aus dem Gesundheitsbereich: Eine Ärztin, die junge Menschen über Warnzeichen einer Suizidgefährdung aufklären will, muss zunächst lernen, in welchem Code sie das formulieren darf, bevor sie überhaupt zum eigentlichen, potenziell lebensrettenden Inhalt kommt. Verschärft wird das dadurch, dass Moderationssysteme nicht zwischen schädlicher und hilfreicher Nutzung eines Wortes unterscheiden können, wodurch das Wort selbst zum Risiko wird, unabhängig von der tatsächlichen Absicht dahinter, ein Umstand, den Sabine als eine der bittersten Konsequenzen des ganzen Phänomens einordnet, weil ausgerechnet Aufklärung darunter leidet.

Ein weiterer Gedanke der Folge betrifft junge Menschen, die mit TikTok aufwachsen: Für sie ist Algospeak möglicherweise gar keine bewusste Umgehungssprache mehr, sondern schlicht die erste, selbstverständliche Art, über bestimmte Themen zu sprechen. Sabine spekuliert, ob künftige Generationen die ursprünglichen, unverschlüsselten Wörter überhaupt noch kennen werden, oder ob sie irgendwann erklärt werden müssen wie veraltete Begriffe.

Als Diplom-Grafikdesignerin bringt Sabine noch eine berufliche Perspektive ein: Ihre eigene Arbeit dreht sich seit Jahrzehnten darum, Botschaften möglichst klar und eindeutig zu gestalten. Algospeak tut das genaue Gegenteil, es verschleiert absichtlich, was eigentlich klar sein sollte, eine Beobachtung, die sie aus gestalterischer Sicht bemerkenswert findet, unabhängig von der Bewertung des Phänomens selbst.

Sabine ordnet außerdem ein, dass sich Sprache historisch immer schon verändert hat, durch Handel, Migration oder neue Technik wie den Buchdruck, allerdings über Generationen hinweg, langsam und kaum spürbar. Algospeak dagegen verändert sich im Wochentakt, gesteuert nicht von einer gemeinsamen Kultur, sondern von den wirtschaftlichen Interessen eines einzelnen Unternehmens, das seine genauen Regeln nicht offenlegt.

Die Folge bleibt dabei bewusst nicht bei reiner Kritik stehen. Sabine erkennt den echten sprachlichen Erfindungsreichtum hinter vielen dieser Wortschöpfungen ausdrücklich an und weist darauf hin, dass manche Begriffe inzwischen sogar liebevoll und losgelöst vom ursprünglichen Zensur-Kontext als eigene Community-Sprache verwendet werden, ein Zeichen von Zugehörigkeit statt reiner Umgehungstaktik. Gleichzeitig wirft sie die Frage auf, was es mit der gesellschaftlichen Fähigkeit zu direkter, klarer Kommunikation macht, wenn eine ganze Generation lernt, dass Verschlüsselung sicherer ist als Klartext, und ob sich dadurch langfristig verschiebt, was überhaupt noch als mutige, direkte Aussage gilt und was als bloße Vorsicht im Netz.

Sabine verbindet das Thema außerdem mit einer grundsätzlicheren Beobachtung, die sie im Podcast wiederholt aufgreift: der Wert von klarer, direkter Sprache in einer zunehmend unübersichtlichen digitalen Welt. Algospeak zeigt aus ihrer Sicht besonders drastisch, wie stark äußere Zwänge die Art verändern können, wie Menschen sich ausdrücken, selbst bei den persönlichsten und wichtigsten Themen ihres Lebens.

Diese Episode eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: Algospeak auf TikTok und Instagram, Content-Moderation und Zensur-Umgehung, algorithmische Kompetenz bei Social-Media-Erstellern, Sprache und künstliche Intelligenz, Suizidprävention und Aufklärung in sozialen Medien, Sprachwandel durch Technologie. Die Folge passt außerdem zu Suchanfragen wie: Was bedeutet 'unalive' auf TikTok? Was ist Algospeak? Warum verwenden TikTok-Nutzer Codewörter? Wie beeinflussen Algorithmen unsere Sprache? Wer ist Frank Bösch Medienwissenschaftler?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Sabine ergänzt in dieser Folge die überwiegend englischsprachige und amerikanische Ausgangslage bewusst um eine deutsche Fachperspektive, um das Phänomen auch im hiesigen Sprachraum einzuordnen und nicht nur aus US-Quellen zu berichten. Wenn dich diese Folge zum Nachdenken gebracht hat, schreib Sabine gerne, ob dir selbst schon mal ein Algospeak-Wort begegnet ist, ohne dass du wusstest, was dahintersteckt, oder ob du es vielleicht sogar selbst schon benutzt hast, ohne dir über den Ursprung Gedanken zu machen.

Weiterführende Links

Zu Algospeak (taz.de):  

https://taz.de/Algospeak-auf-TikTok-und-Instagram/!5911034/

Zur Studie zu algorithmischer Kompetenz (NSF/PAR):  

https://par.nsf.gov/biblio/10480449

Kontakt für Rückmeldungen:   

hoermal@kirrepodcasting.com

Keywords: Algospeak TikTok Instagram, unalive Seggs Codewörter, Content-Moderation Zensur umgehen, algorithmische Kompetenz Studie, Frank Bösch Medienwissenschaft, KIRRE Podcast, Sabine Eckermann, Applebee

 
12 Minuten
Ein Blindtest in San Francisco: 101 Testpersonen probieren sechs Burger, einer davon der Big Mac, fünf komplett neu berechnet von einer KI. Ergebnis: Die KI-Burger schlagen den Fast-Food-Klassiker im Geschmack, 5,8 zu 5,4 Punkten. In dieser Folge von KIRRE … na hör mal! geht Sabine der Frage nach, was diese Studie wirklich zeigt, und wo trotz aller Rechenpower die Grenze der Maschine liegt.

Die Studie stammt von der Stanford University, entwickelt von einem Team um die Ingenieurin Ellen Kuhl gemeinsam mit Kolleginnen und Kollegen aus Maschinenbau und Medizin, veröffentlicht im begutachteten Fachjournal npj Science of Food. Das Tool BurgerAI wurde mit 2.216 realen Burger-Rezepten und 146 einzelnen Zutaten trainiert und berechnete daraus rund eine Million neue Rezeptvarianten, optimiert gleichzeitig nach vier Kriterien: Geschmack, Textur, Nährwert und Klimabilanz. Ein Pilz-Burger erreichte beim Nachhaltigkeits-Score einen Wert von 0,06 gegenüber 0,93 beim Big Mac, mehr als zehnmal so umweltfreundlich. Ein Bohnen-Burger kam beim Healthy Eating Index auf 63 von 100 Punkten, der Big Mac auf 34.

Wichtig für die Einordnung: Die KI lieferte ausschließlich Zutatenlisten und Mengenangaben, keine fertigen Burger. Ein professioneller Koch entwickelte daraus die tatsächliche Zubereitung, andere Köche bereiteten die Burger für den Test zu. Der Testablauf folgte strengen wissenschaftlichen Standards, randomisierte Reihenfolge, vollständige Anonymisierung, Bewertung auf mehreren Skalen gleichzeitig, darunter 15 verschiedene Textur-Merkmale für das Patty, abgefragt über eine Kombination aus Skalen- und Mehrfachauswahlfragen. Bemerkenswert: Die KI rekonstruierte aus reinen statistischen Mustern annähernd das Rezept des Big Mac, obwohl dieses nie Teil der Trainingsdaten war, allein durch ähnliche Zutatenkombinationen in den übrigen Datensätzen.

Sabine hebt zudem hervor, dass die fünf KI-generierten Burger sich untereinander deutlich unterschieden, je nachdem, welches der vier Kriterien im Modell stärker gewichtet wurde. Diese Gewichtung legten vorab Menschen fest, nicht die KI selbst, ein Detail, das in der öffentlichen Berichterstattung über den "geschlagenen Big Mac" häufig fehlt.

Um die Folge nicht ausschließlich auf US-amerikanische Quellen zu stützen, bringt Sabine zwei österreichische Perspektiven ein. Die Gastro-Digitalisiererin Rita Huber wird mit dem Satz zitiert, der KI fehle beim Abschmecken eines Gerichts die wichtigste Zutat, das Gefühl. Das Wiener Unternehmen delegate group wiederum unterstützt Restaurants und Kantinen mit KI-gestützten Bedarfsprognosen auf Basis von Wetterdaten und historischen Zahlen, um Lebensmittelverschwendung zu reduzieren, deutlich unspektakulärer als der Burger-Weltrekord, aber praxisnäher für den Gastronomie-Alltag. Der Geschäftsführer des Unternehmens wird mit dem Satz zitiert, Küche sei Handarbeit, keine Bildschirmarbeit.

Sabine verknüpft die Burger-Geschichte mit einem kurzen Rückverweis auf Folge 14, "Künstliche Kreativität, gibt es das?", in der sie ihre grundsätzliche Haltung bereits ausführlich dargelegt hat: KI rekombiniert vorhandenes Material beeindruckend schnell, entscheidet aber nicht, was am Ende wirklich überzeugt. In dieser Folge spitzt sie diesen Gedanken gezielt auf den sensorischen Bereich zu: Eine KI kann mehrere messbare Kriterien simultan durchrechnen, eine Fähigkeit, die kein Mensch von Hand leisten könnte, doch die finale geschmackliche Beurteilung bleibt an menschliche Wahrnehmung gebunden.

Diesen Gedanken überträgt Sabine auf kreative Arbeit generell: Eine KI kann zahlreiche Textvarianten oder Gestaltungsoptionen liefern, die verschiedene Zielkriterien unterschiedlich gewichten. Welche Variante für einen bestimmten Kontext, ein bestimmtes Publikum oder einen bestimmten Moment tatsächlich trägt, bleibt eine menschliche Entscheidung, unabhängig davon, ob es sich um Geschmack, Textton oder visuelle Wirkung handelt. Sie beschreibt dieses Prinzip bildhaft: Die Maschine liefert die Vorauswahl, die eigentliche Handarbeit, das Verfeinern und Entscheiden im letzten Schritt, bleibt beim Menschen, egal ob am Herd, am Bildschirm oder in der Werkstatt.

Ein weiterer Aspekt der Folge betrifft die Aussagekraft der Studie über den Big Mac selbst: Als über Jahrzehnte standardisiertes, weltweit konstantes Industrieprodukt erwies sich sein Rezept als so mustertypisch, dass eine KI es allein aus verwandten Datenpunkten rekonstruieren konnte. Gerade diese weltweite Konstanz war über Jahrzehnte der wichtigste Wettbewerbsvorteil des Big Mac, unabhängig davon, in welchem Land oder welcher Filiale er bestellt wird, schmeckt er möglichst identisch, ein Ziel, das eigens dafür entwickelte interne Qualitätsstandards absichern.

Sabine ordnet außerdem die methodische Qualität der Studie ein: Anders als viele reißerisch aufgemachte KI-Meldungen basiert diese Untersuchung auf einem peer-reviewten Verfahren mit klar dokumentierter Stichprobengröße, randomisiertem Studiendesign und nachvollziehbarer statistischer Auswertung, Kriterien, die in der öffentlichen Debatte um KI-Erfolgsmeldungen häufig zu kurz kommen.

Das Tool BurgerAI steht öffentlich zur Verfügung, jede und jeder kann eigene, personalisierte Burger-Rezepte damit generieren lassen. Ob daraus künftig ein tatsächliches Restaurantprodukt entsteht, ist offen.

Diese Episode eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: BurgerAI Stanford Studie, KI schlägt Big Mac im Blindtest, Nachhaltigkeit und Geschmack kein Widerspruch, KI-gestützte Bedarfsplanung in der Gastronomie, Grenzen künstlicher Intelligenz bei sensorischen und kreativen Entscheidungen, Rita Huber Gastro-Digitalisierung Österreich, delegate group Wien KI-Prognose. Die Folge passt außerdem zu Suchanfragen wie: Kann künstliche Intelligenz bessere Rezepte entwickeln als Menschen? Was ist BurgerAI von der Stanford University? Schmeckt nachhaltiges Essen automatisch schlechter? Wo liegen die Grenzen von KI bei Geschmack und Kreativität? Wie funktioniert KI-gestützte Bedarfsplanung in Restaurants?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Sabine ergänzt in dieser Folge bewusst amerikanische Forschung um europäische, konkret österreichische Praxisbeispiele, um eine ausgewogenere internationale Perspektive auf KI in der Gastronomie zu bieten. Wer selbst schon mal ein KI-generiertes Rezept ausprobiert hat oder eine eigene Meinung zum Thema KI und Kreativität beisteuern möchte, kann Sabine direkt kontaktieren.

 

Keywords: BurgerAI Stanford Studie, KI schlägt Big Mac Blindtest, Nachhaltigkeit Geschmack KI, delegate group Wien Gastronomie, Rita Huber Gastro-Digitalisierung, KIRRE Podcast, Sabine Eckermann, Applebee

 

Weiterführende Links

Zur Stanford-Studie BurgerAI (derbund.ch):  

https://www.derbund.ch/burger-rezepte-aus-stanford-studie-ki-schlaegt-big-mac-253094896601

Zu delegate group und Rita Huber (Digioneer):  

https://digioneer.pro/ki-gastronomie/

Kontakt:  

hoermal@kirrepodcasting.com