Startseite
Podcasts
Philosoph! Der andere Versicherungspodcast Podcast
#73 David Nedel – Haben wir noch die Macht über unsere Systeme?

#73 David Nedel – Haben wir noch die Macht über unsere Systeme?

Philosoph! Der andere Versicherungspodcast vor 3 Monaten

0:00

53:40

Podcast

Philosoph! Der andere Versicherungspodcast

Über 80 Versicherungsvorstände seit 2021. Mehr als jeder andere Podcast in Deutschland. Verstehen, was Versicherungen bewegt.

Bildung Wirtschaft Gesellschaft & Kultur

Podcaster

Harrassowitz

Wenn Technik so mächtig wird, dass ihre Funktionsweise im
Verborgenen liegt, droht die Gestaltungsfreiheit zu kippen. Im
Gespräch mit Mathias Harrassowitz und Christian Granseier warnt
David Nedel davor, dass gewachsene Systemkomplexität in
Unternehmen unbewusst zum Machtinstrument wird. Nur wer
jahrzehntealte IT-Architekturen durchdringt, besitzt heute
Deutungshoheit. Gehen diese Wissensträger in den Ruhestand, droht
ein Kontrollverlust. Die Lösung liegt nicht im Rückbau, sondern
in der konsequenten Demokratisierung dieses Wissens.

Noch drängender wird diese Machtfrage durch KI. David betont:
Algorithmen besitzen keinen eigenen Willen; sie vollziehen nur
menschliche Designentscheidungen. Es wäre ethischer Bankrott, die
Effizienzgewinne der Automatisierung abzuschöpfen, bei Fehlern
aber auf die Maschine zu zeigen. Verantwortung lässt sich nicht
wegdelegieren. Deshalb müssen wir Werte direkt in den Code
schreiben: Ein Algorithmus darf nicht bloß Profit maximieren,
sondern muss dies tun, ohne bestimmte Gruppen zu diskriminieren.

Dafür braucht es eine neue Kultur des Zweifelns. Entwickler
müssen ermutigt werden, ethische Bedenken laut zu äußern, wenn
ein Modell ältere Kunden benachteiligt. Während die Maschine
berechnet, was technisch möglich ist, bleibt es das ureigene
Privileg des Menschen, zu fragen, ob es auch richtig ist.
Empathie, Einzelfallgerechtigkeit und echtes Bedauern im
Krisenfall lassen sich nicht programmieren. Am Ende steuert
Führung künftig keine bloßen Umsetzer mehr, sondern Gestalter
autonomer Systeme. Ob dafür bald ein „Chief of Ethics“ am
Vorstandstisch sitzt, bleibt offen – die Notwendigkeit einer
ethischen Leitplanke steht längst fest.

Zu Gast:

David Nedel, Vorstand IT und Digitalisierung bei der
VGH-Versicherung und Sprecher der Geschäftsführung bei der IVV
GmbH

Der Philosoph wird ermöglicht durch unseren Zukunftspartner
Concentrix.

Create your podcast today! #madeonzencastr