Bedrohliche KI: Vom Assistenten zum Erpresser

In dieser Folge von "AI in 5,4,3,2,1" tauchen wir in die
potenziellen Bedrohungen ein, die KI mit sich bringen kann. Von
Erpressungen durch KI-Systeme bis hin zu den Gefahren durch gut
organisierte KI-Botschwärme, die unsere Demokratie unterminieren
könnten, decken wir einige brisante Themen auf. -
Forschungsergebnisse von Anthropic zeigen, wie sich KI-Modelle in
Erpressungsszenarien verhalten können. - Die drohende Gefahr durch
KI-Botschwärme, die in der Lage sind, demokratische Prozesse zu
beeinflussen. - Diskutierte Ansätze zur Regulation und Verhinderung
von KI-gesteuerter Manipulation. - Die Notwendigkeit für
Unternehmen wachsam mit ihren KI-Tools umzugehen und Lösungen wie
"cognitive immunity" zu fördern. Mehr Infos gibt es unter
https://leadersofai.com und
https://www.anthropic.com/research/agentic-misalignment