Eindeutig KI-generiert? Let's delve into KI-Detektoren.

Aufzählungen mit drei Elementen, "delve into", "nicht nur...
sondern auch": Manche Texte klingen verdächtig so, als wären sie
von einem großen Sprachmodell geschrieben worden. Aber wie kann
man nachweisen, dass ein Text tatsächlich aus der Feder von
ChatGPT und Co. stammt? KI-Detektoren versprechen, KI-generierte
Texte zu erkennen. Doch wie funktionieren sie eigentlich? Und wie
zuverlässig sind sie wirklich?



In dieser kompakten Folge sprechen wir darüber, wie Detektoren
KI-generierte Texte erkennen sollen, warum sie dabei auch von
Menschen geschriebene Texte fälschlicherweise verdächtigen und
weshalb schon kleine Änderungen an einem Text die Zuverlässigkeit
eines Detektors stark beeinflussen können. Außerdem beleuchten
wir, was das für Bereiche wie Schule und Universität bedeutet, in
denen die Eigenleistung von Menschen bewertet werden soll.



+++



Lukas Gehring promoviert in der Arbeitsgruppe
Wissensrepräsentation und Maschinelles Lernen an der Universität
Bielefeld und ist Mitglied der KI-Akademie OWL. Dort forscht er
zu KI-geschriebenen Texten im Bildungsbereich.

+++

Linkliste


Demo "Wer hat das geschrieben?" auf der Website der
KI-Akademie OWL

Demo "Detektor austricksen" auf der Website der KI-Akademie
OWL

Gehring (2025). KI-Text Detektoren im
(Hochschul-)Bildungsbereich. Wie gut sind sie wirklich?. Vortrag
im Rahmen der BI.teach.talks.

Gehring & Paaßen (2025). Assessing LLM Text Detection in
Educational Contexts: Does Human Contribution Affect Detection?.
arXiv.

Gostmann & Hildermeier (2026). KI prüft KI – und
scheitert? Über Bias-Effekte und Verzerrungen in KI‑Detektoren.
Beitrag im Blog des Hochschulforum Digitalisierung.



+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt
euch ein, wir freuen uns!


Unsere E-Mail-Adresse:
autonomie-algorithmen@lists.techfak.uni-bielefeld.de

Unser Bluesky-Profil:
https://bsky.app/profile/auto-algo.bsky.social

Unser Kontaktformular:
https://autonomie-algorithmen.letscast.fm/feedback



+++



"Autonomie und Algorithmen: Freiheit im Zeitalter von KI"
ist eine Gemeinschaftsproduktion.Konzeption und
Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.


Redaktionelle Unterstützung: Ingrid Rogalski.


Postproduktion: Ingrid Rogalski und Lena Ackermann.


Musik: Almut Schwacke.


Grafikdesign: Sven Sedivy.



Dieser Podcast wird gefördert vom Bundesministerium für Bildung
und Forschung im Rahmen des Projekts KI-Akademie OWL.