Autopilot im Kopf - warum Systemfehler als menschliches Versagen enden

Siebzehn Jahre nach dem Absturz von Flug AF447 hat das
Berufungsgericht in Paris Air France und Airbus wegen
fahrlässiger Tötung verurteilt und damit den Freispruch der
ersten Instanz aufgehoben. Die Vorsitzende Richterin sprach von
einer Katastrophe mit Ansage. Damit fällt eine Erzählung in sich
zusammen, die sich seit 2009 gehalten hat: die vom Pilotenfehler.


Wir nehmen das Urteil zum Anlass für ein Thema, das gerade jeden
Betrieb erreicht. Denn was 2009 im Cockpit passierte, passiert
heute an Monitoren, in Befundungssystemen, in der
vorausschauenden Instandhaltung, in Dienstplanalgorithmen – und
in KI-generierten Gefährdungsbeurteilungen. Lisanne Bainbridge
hat das Muster bereits 1983 beschrieben: Je zuverlässiger ein
System arbeitet, desto schlechter wird der Mensch darin, es zu
übernehmen. Und desto kritischer wird der Moment, in dem er es
doch muss.


Wir sprechen über Automation Bias, Überwachungssorglosigkeit und
schleichenden Kompetenzverlust, über vier Fragen, mit denen man
das Problem in jeder Begehung sichtbar macht – und darüber, warum
der Appell an die Selbstdisziplin im Arbeitsschutz an der
falschen Stelle ansetzt. Mit konkreten Maßnahmen entlang des
TOP-Prinzips, von der Beschaffung über die Betriebsvereinbarung
bis zur KI-Verordnung.


Jeder Arbeitstag erzählt eine Geschichte. Wir helfen,
dass sie gut ausgeht. www.präventa.de
Folge direkt herunterladen