Kann KI Ethik?

Die Sicherheits_lücke vor 1 Woche

Ein Podcast der HAW Hamburg

0:00

In dieser Episode

Host Prof. Dr. Volker Skwarek
Host Monina Schwarz

Cyberangriffe mithilfe von KI, insbesondere mit agentischen
Sprachmodellen, tauchen seit Monaten fast wöchentlich in den
Nachrichten auf. Intensität und Komplexität der Angriffe nehmen zu.
Volker und Monina nehmen diese Meldungslage zum Anlass für eine
technikphilosophische Folge: Können KI-Systeme ethisch handeln, und
wie lassen sie sich ethisch einsetzen? Monina erklärt, wie Large
Language Models und Transformer-Architekturen arbeiten und mit
welchen Methoden KI lernt. Volker fragt, was Ethik überhaupt ist
und warum sich Werte, die teils unbewusst und gesellschaftsabhängig
sind, so schwer in ein System programmieren lassen. Dabei geht es
um das Moravecsche Paradox, um Bias und Poisoning in
Trainingsdaten, um KI-generierte Inhalte als neue
Trainingsgrundlage und um Guardrails im Unternehmenseinsatz. Am
Ende steht die Frage, wer die Ethik ins Ergebnis bringt. Gerade bei
agentischen Systemen liegt viel Verantwortung bei uns Nutzer:innen,
schon beim Prompting.