Vertrauen ist das neue KI-Feature - mit Shana Simmons und Pam Couch von Zendesk

KI kann längst mehr, als nur Fragen zu beantworten. Sie handelt,
entscheidet und greift zunehmend in Prozesse ein. Doch je
autonomer Systeme werden, desto drängender wird eine Frage:
Wem vertrauen wir und warum?


In dieser Folge spreche ich mit Shana Simmons, Chief
Legal Officer bei Zendesk, und Pam Couch, Director of Product
Legal, über eine Rechtsabteilung, die nicht erst dann
auftaucht, wenn etwas schiefgeht. Sondern bereits dort sitzt, wo
Produkte entstehen, Risiken bewertet und Leitplanken eingebaut
werden.


Wir sprechen darüber, warum Vertrauen heute Teil des Produktwerts
ist, weshalb verantwortungsvolle KI Innovation nicht bremst,
sondern beschleunigen kann, und warum sich Verantwortung nicht
einfach in Verträge auslagern lässt. Es geht um autonome
KI-Agenten, Transparenz, Haftung und um die Menschen, die bei
aller Effizienz nicht aus dem Blick geraten dürfen.


Oder anders gesagt: Wenn KI selbstständiger wird, muss auch
Governance erwachsener werden.