Ein Geschichtsprofessor korrigiert eine Zwischenprüfung über die
Industrielle Revolution. Zwischen Dampfmaschinen, Fabrikarbeit
und technischen Umbrüchen taucht plötzlich Madagaskar auf. Erst
einmal könnte das ein schräger Einfall sein. Dann erscheint die
Insel in der nächsten Antwort und danach wieder. Manche Sätze
klingen vollkommen absurd, etwa die Behauptung, Madagaskar
schwebe seitwärts durch den Nachmittag. Sehr schnell wird klar:
Hier haben nicht mehrere Studierende unabhängig voneinander
denselben merkwürdigen Gedanken entwickelt. Sie sind auf eine
unsichtbare Anweisung hereingefallen, die Professor Jason Gibson
gezielt in die Aufgabenstellung eingebaut hatte. Die Geschichte
klingt wie eine kleine Komödie, endete für viele Beteiligte aber
mit einer nicht bestandenen Prüfungsleistung.
Gibson unterrichtet Geschichte an der Alcorn State University im
US-Bundesstaat Mississippi. Seine Studierenden sollten technische
Entwicklungen während der Industriellen Revolution mit heutigen
Veränderungen vergleichen. Zwischen den sichtbaren Zeilen der
Onlineaufgabe versteckte er einen Satz in weißer Schrift. Wer die
Aufgabe normal las, sah ihn nicht. Wer dagegen den vollständigen
Text kopierte und in einen KI-Chatbot einfügte, übertrug auch die
verborgene Anweisung: Das Wort Madagaskar sollte an einer Stelle
auftauchen, an der es keinen Sinn ergab. In 32 von 35 Antworten
erschien daraufhin genau dieses Wort. Damit hatten die
Studierenden praktisch selbst den Hinweis geliefert, dass ihre
Texte von einem Chatbot erzeugt worden waren.
Weiterführende Links
t3n zum Fall Jason Gibson:
https://t3n.de/news/professor-chatgpt-schummler-prompt-injection-weisser-text-trick-prufung-1754816/
Stanford SCALE zur Studie über KI, Notizen und Textverständnis:
https://scale.stanford.edu/ai/repository/effects-llm-use-and-note-taking-reading-comprehension-and-memory-randomised
Alcorn State University, Jason Gibson:
https://www.alcorn.edu/marketing-and-communication/faculty-expert-guide/college-arts-sciences/department-of-social-sciences/
Kontakt:
hoermal@kirrepodcasting.com
Der Fall war weniger eindeutig, als die Zahl zunächst vermuten
lässt. Gibson erlaubte den betroffenen Studierenden, gegen die
Bewertung Einspruch einzulegen. Zwei machten davon Gebrauch. Bei
einer Person wurde die Note geändert, weil sie erklärte, im
Dunkelmodus gearbeitet und dadurch den weißen Text gesehen zu
haben. Sie hielt die Madagaskar-Anweisung für einen echten
Bestandteil der Aufgabe. Der Professor akzeptierte diese
Erklärung. Diese Wendung zeigt, warum selbst ein einfallsreicher
Köder kein unfehlbares Beweismittel ist. Technische
Einstellungen, Vorlesefunktionen oder Arbeitsweisen beim Kopieren
können versteckte Texte sichtbar machen. Auch bei einem scheinbar
eindeutigen Treffer bleibt deshalb eine menschliche Prüfung
notwendig.
Gibson erklärte nach der großen öffentlichen Aufmerksamkeit, er
habe keine Freude daran, Studierende durchfallen zu lassen. Sein
Ziel sei nicht die Bloßstellung gewesen, sondern die Sicherung
akademischer Integrität. Er beschrieb vielmehr seine Erschöpfung
über zahlreiche Antworten, bei denen kaum eigenes Denken
erkennbar war. Genau dieser Punkt macht die Geschichte größer als
einen gelungenen Trick. Prüfungen sollen nicht lediglich fertige
Wörter produzieren. Sie sollen sichtbar machen, ob jemand
Zusammenhänge verstanden hat, Gedanken ordnen und begründen kann.
Wer diese Arbeit vollständig an eine Maschine abgibt, erhält
vielleicht einen sauberen Text, überspringt aber genau den
Prozess, den die Aufgabe eigentlich trainieren sollte.
Eine randomisierte Untersuchung an Schulen in England ergänzt
diese Beobachtung. Jugendliche arbeiteten dort beim Lernen
entweder mit einem Sprachmodell, mit klassischen Notizen oder mit
einer Kombination aus beidem. Die Gruppe, die ausschließlich das
Sprachmodell verwendete, zeigte beim späteren Erinnern und
Textverständnis schwächere Ergebnisse als Jugendliche, die selbst
Notizen angefertigt hatten. Bemerkenswert war, dass viele
Teilnehmende die KI trotzdem als besonders hilfreich empfanden.
Sie machte schwierige Inhalte leichter zugänglich und verringerte
die gefühlte Anstrengung. Das angenehmere Lerngefühl bedeutete
jedoch nicht automatisch, dass mehr Wissen hängen blieb. Die
Verbindung aus eigener Arbeit und KI-Unterstützung schnitt
dagegen deutlich besser ab.
Die Folge verteufelt deshalb weder Chatbots noch ihren Einsatz in
Schule und Studium. KI kann Begriffe erklären, Rückfragen
stellen, Gegenpositionen liefern, Übungsaufgaben erzeugen oder
Feedback zu einem selbst geschriebenen Entwurf geben.
Problematisch wird es dort, wo sie den Teil übernimmt, der
gelernt oder geprüft werden soll. Wer eine eigene Argumentation
entwickeln soll, kann diese nicht komplett auslagern und
anschließend behaupten, die Leistung selbst erbracht zu haben.
Die sinnvolle Grenze hängt immer von der Aufgabe ab. Entscheidend
ist, dass Lehrende transparent sagen, welche Nutzung erlaubt ist,
und Lernende verstehen, warum bestimmte Denk- und Schreibarbeit
trotz verfügbarer Technik weiterhin selbst erledigt werden muss.
Auch für erfahrene Selbstständige ist die Geschichte überraschend
nah am Alltag. Ein Konzept, eine Präsentation oder eine
Kundenmail kann in wenigen Sekunden erzeugt werden. Sobald der
eigene Name daruntersteht, trägt jedoch nicht der Chatbot die
Verantwortung. Wer bei einer Rückfrage nicht erklären kann, warum
eine Aussage im Text steht, verliert schnell Vertrauen. Kundinnen
interessiert es wenig, welches System den Fehler eingebaut hat.
Sie erwarten, dass die beauftragte Person ihr Ergebnis kennt,
beurteilt und vertreten kann. Sabine macht deshalb deutlich: Der
berufliche Wert liegt nicht in möglichst vielen schnell erzeugten
Seiten. Er liegt in der Fähigkeit, Qualität zu erkennen,
Entscheidungen zu begründen und unpassenden Unsinn rechtzeitig
auszusortieren.
Der weiße Text wird häufig als Prompt Injection bezeichnet, weil
eine zusätzliche Anweisung in Material versteckt wird, das
anschließend von einem KI-System verarbeitet wird. In diesem Fall
war die Technik denkbar einfach. Sie brauchte weder ein
Erkennungsprogramm noch eine geheime Prozentanzeige, die
angeblich verrät, ob ein Text von einer KI stammt. Gerade diese
Schlichtheit machte den Fall so anschaulich. Als allgemeine
Kontrollmethode taugt sie trotzdem nur begrenzt. Sobald der Trick
bekannt ist, können Nutzerinnen nach verstecktem Text suchen oder
ihre Ergebnisse auf auffällige Begriffe prüfen. Dann beginnt ein
Wettrüsten, bei dem beide Seiten mehr Energie in Tarnung und
Enttarnung stecken als in tatsächliches Lernen.
Für den eigenen Umgang mit KI bleibt eine einfache,
alltagstaugliche Frage: Kann ich erklären, was unter meinem Namen
veröffentlicht oder abgegeben wird? Wer einen Text verstanden,
überprüft und bewusst verändert hat, nutzt KI als Werkzeug. Wer
ihn ungelesen weiterreicht, übergibt gleichzeitig die Kontrolle.
Das gilt bei einer Prüfung ebenso wie bei Angeboten,
Präsentationen, Artikeln oder wichtigen E-Mails. Ein kurzer
Kontrollblick reicht dabei nicht immer. Namen, Zahlen, Quellen
und zentrale Behauptungen müssen wirklich stimmen. Der
Madagaskar-Fall zeigt lediglich die lustigste und sichtbarste
Variante eines Problems, das im Berufsalltag meistens viel
unspektakulärer daherkommt und gerade deshalb leichter
durchrutscht.
KIRRE … na hör mal! erzählt Geschichten darüber,
was künstliche Intelligenz mit Arbeit, Kreativität, Alltag und
unserer Menschlichkeit macht. Sabine verbindet aktuelle Fälle mit
ihrem Blick als erfahrene Diplom-Grafikdesignerin und langjährige
Selbstständige, ohne Technikshow und ohne Weltuntergangsstimmung.
Diese Episode eignet sich besonders für Menschen, die KI sinnvoll
nutzen möchten, ohne das eigene Denken, Prüfen und Entscheiden
abzugeben. Wer selbst schon einmal einen herrlich falschen
KI-Satz entdeckt hat, kann die Geschichte an
hoermal@kirrepodcasting.com schicken. Vielleicht war es keine
seitwärts schwebende Insel. Wahrscheinlich war es aber mindestens
genauso kirre und verdient einen Platz in einer späteren
Folge.
Keywords: Madagaskar KI Prüfung, Jason Gibson
Alcorn State University, KI Schummeln Studium, Prompt Injection
weißer Text, ChatGPT Prüfungsleistung, KI und Lernen, KI-Texte
kontrollieren, akademische Integrität, Textverständnis
Sprachmodelle, KI in der Bildung, KIRRE Podcast, Sabine
Eckermann, Applebee
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.