#754 KI nach dem Hype: KI-Ethik in der Verwaltung – Leitplanken & Verantwortung

Duri Bonin hat [Patrick
Arnecke](https://www.linkedin.com/in/patrickarnecke/) zu sich in
den Podcast eingeladen, weil er verstehen will, wie KI im realen
Workflow hilft. Daraus ist die Serie «Back to the Future»
entstanden: eine ruhige Bestandesaufnahme nach dem Hype – was heute
schon funktioniert und wie man es sauber in die Praxis bringt. KI
ist nie nur Technik. Sie ist Soziotechnik: Sie verändert Rollen,
Verantwortung, Zusammenarbeit und am Ende auch die Frage, was in
der Verwaltung (und in der Justiz) als fair, nachvollziehbar und
korrekt gilt. In dieser Episode sprechen Duri Bonin und Patrick
Arnecke über KI-Ethik als praktische Arbeit: nicht nur «Was dürfen
wir?», sondern «Was wollen wir?» und welche Leitplanken es dafür
braucht. Ausgangspunkt sind reale Workflows: Sprachvereinfachung,
Audiotranskription, Protokolle in Einvernahmen. Patrick zeigt,
warum «Fehler» kein Randthema sind, sondern der Kern jeder
ethischen Debatte über KI: Jedes System macht Fehler – entscheidend
ist, welche Fehler, wie weh sie tun, und wie man damit sauber
umgeht. Ein zentrales Prinzip in der Zürcher Verwaltung: KI als
Hilfssystem, nicht als Entscheidungssystem. Patrick nennt das nicht
«Human in the Loop», sondern konsequent «AI in the Loop»: Die KI
liefert Entwürfe und Anregungen – der Mensch bleibt zu 100 Prozent
verantwortlich. Dazu gehört Governance statt Siegeldenken: keine
einmalige «KI-Zulassung», sondern laufende Beobachtung,
Folgenabschätzung und Qualitätskontrolle über den ganzen
Lebenszyklus inklusive Konzeptdrift (die Welt ändert sich, das
Modell bleibt stehen). Und am Schluss steht eine Perspektive, die
hängen bleibt: KI ist nicht «Zukunft». Sie ist längst überall –
gerade weil sie oft unsichtbar geworden ist. Nicht «Wann
beherrschen Maschinen die Welt?», sondern: Sie tun es schon und oft
erstaunlich doof. Konkret wird besprochen: - Warum KI-Ethik mehr
ist als Compliance: Es geht um Werte, Gemeinwohl und
Benachteiligungen verhindern. - Benefizienz: KI soll Arbeit besser
machen (z.B. mehr Zeit für juristische Kernarbeit statt
Protokollstress). - Fehlerkultur bei KI: unterschiedliche
Fehlertypen, unterschiedliche Schäden, unterschiedliche
Prüfpflichten. - Leitplanken der Zürcher Verwaltung:
Studie/Leitfaden mit Universität Basel und AlgorithmWatch als
Rahmenwerk. - «AI in the Loop»: Assistenz statt Automatisierung,
Verantwortung bleibt beim Menschen. - Rollout als Teamsport
(Juristinnen, HR, OE, Datenschutz, Sicherheit, Fachstellen). -
Ethik als Prozess: Monitoring, Konzeptdrift, laufende
Folgenabschätzung statt Stempel. - Bias als Chance und Risiko:
Verzerrungen sichtbar machen – aber auch Datenerhebung vs.
Datenschutz als Zielkonflikt. - Soziotechnische Kompetenz aufbauen:
reden, fragen, ausprobieren. Für wen ist diese Folge besonders
spannend? Für alle, die KI nicht als Buzzword, sondern als
Verantwortungsthema verstehen wollen: Verwaltung, Justiz,
Strafverteidigung, Behördenkommunikation, Compliance/Governance,
Daten- und Digital-Teams – und alle, die KI einführen (oder
einkaufen) wollen, ohne die Kontrolle abzugeben. Die Podcasts "Auf
dem Weg als Anwält:in" sind unter https://www.duribonin.ch/podcast/
oder auf allen üblichen Plattformen zu hören . Dort einfach nach
'Duri Bonin' suchen und abonnieren.