EU-AI-Act und Human in the loop

Eine KI, die aus Peggy kurzerhand „Sonja“ macht, sorgt zunächst
für einen humorvollen Moment. Gleichzeitig zeigt dieser Fehler
sehr deutlich, worum es in dieser Folge geht: Künstliche
Intelligenz kann schnell, leistungsfähig und hilfreich sein –
aber sie ist nicht unfehlbar. Genau deshalb braucht ihr Einsatz
menschliche Kontrolle, Fachkompetenz und klare Verantwortung.


In dieser Folge von „Endlich barrierefrei“ spricht Peggy
Reuter-Heinrich über den EU AI Act und das
Human-in-the-Loop-Prinzip. Im Mittelpunkt steht die Frage, welche
Folgen der zunehmende Einsatz von KI für Behörden, Kommunen,
öffentliche Einrichtungen und alle hat, die digitale Produkte
oder Dienstleistungen beschaffen.


Besonders kritisch betrachtet Peggy vermeintliche
Ein-Klick-Lösungen für digitale Barrierefreiheit: KI-Overlays,
automatische Scanner und vollautomatische PDF-Konverter
versprechen schnelle Konformität. Doch ein grünes Prüfergebnis
bedeutet noch lange nicht, dass ein Angebot für Menschen mit
Behinderungen tatsächlich nutzbar ist. Am Beispiel komplexer
PDF-Tabellen wird deutlich, wie automatisierte Systeme formale
Fehler scheinbar beseitigen können, dabei aber Struktur,
Lesereihenfolge und Verständlichkeit zerstören.


Die zentrale Botschaft dieser Folge: KI eignet sich hervorragend
für Vorprüfungen, Routineaufgaben und das Erkennen möglicher
Auffälligkeiten. Die abschließende Bewertung, Validierung und
Priorisierung muss jedoch durch qualifizierte Menschen erfolgen.
Genau dieses Zusammenspiel setzt HeiReS auch bei der
Smart-City-Studie 2026 ein: KI unterstützt die Vorprüfung entlang
zahlreicher WCAG- und Inklusionskriterien, anschließend
kontrollieren erfahrene Fachleute die Ergebnisse und entwickeln
konkrete Handlungsempfehlungen.


In dieser Folge erfahren Sie:
• warum KI-Ergebnisse niemals ungeprüft übernommen werden
sollten,
• weshalb automatische Barrierefreiheitsversprechen kritisch zu
hinterfragen sind,
• wie Prüfprogramme durch technisch veränderte Strukturen
scheinbar zufriedengestellt werden können,
• warum echte Barrierefreiheit mehr als formale Konformität
bedeutet,
• wie das Human-in-the-Loop-Prinzip in der Praxis
funktioniert,
• und wie KI und menschliche Expertise sinnvoll zusammenarbeiten
können.


Ihr nächster Schritt:
Prüfen Sie, wo in Ihrer Organisation KI für Webseiten, Dokumente,
Beschaffung oder Qualitätssicherung eingesetzt wird. Klären Sie,
wer die Ergebnisse fachlich kontrolliert, und etablieren Sie ein
zweistufiges Verfahren: zuerst die KI als Assistenz, anschließend
der Mensch als verantwortliche Instanz.


Abonnieren Sie „Endlich barrierefrei“, teilen Sie die Folge mit
Verantwortlichen in Verwaltung, Politik, Beschaffung und
Digitalisierung und kommen Sie mit uns ins Gespräch. Denn echte
digitale Inklusion entsteht nicht durch ein Prüfhäkchen, sondern
durch verantwortungsvolles Handeln.


Podcast Webseite auf heires.net