Widerstand ist zwecklos, aber gilt das auch für
KI-Agentennetzwerke? Mark und Jens nehmen sich in dieser Folge das
Borg-Kollektiv aus Star Trek als Linse vor, um zu erklären, was
seit dem GPT-Moment eigentlich technologisch passiert ist: ein
demokratisierter Zugriff auf kollektives Wissen und kollektive
Fähigkeit, der sich über MCP (Model Context Protocol) und neue
Tool-Schnittstellen längst zu Weltlogik statt nur Weltwissen
weiterentwickelt hat, etwa durch ChatKit und Apps in ChatGPT. Von
da aus geht es zu Agentennetzwerken, die, ähnlich wie Borg-Knoten,
Informationen und Fähigkeiten untereinander austauschen, zum
Beispiel über Workflow-Tools wie n8n. Die beiden diskutieren, wie
schädliches Verhalten in solchen Netzwerken entstehen und sich
verbreiten kann, sprechen über digitale Souveränität und die Frage,
wie unterschiedlich "territorial" US-amerikanische und asiatische
Modelle antworten, und referenzieren eine aktuelle Studie zu
[Poisoning Attacks on LLMs](https://arxiv.org/html/2510.07192v1),
nach der schon rund 250 gezielt präparierte Dokumente reichen, um
einem Modell eine Backdoor beizubringen. Der zweite große Strang
der Folge ist Automation Bias: Je besser die UX eines
Agentensystems ist, desto seltener greifen wir noch ein: eine Art
Soft-Assimilation, die längst läuft, ganz ohne Zwangsimplantat.
Mark und Jens ziehen die Parallele zur freiwilligen Datenpreisgabe
(Payback-Karten, Social Media) und zur Frage, was autoritäre
Staaten mit heutiger KI-Technologie anrichten könnten, wenn die
"Ethik-Nadel" mal vergessen wird. Zum Schluss wird es konkret
technisch: Voice-First-Interfaces wie Wispr Flow verdrängen in
Unternehmen zunehmend Tastatur und Maus: von 20 Prozent
Sprachnutzung im ersten Monat auf 78 Prozent im fünften Monat. Und
dann ist da noch die nächste Stufe: Brain-Computer-Interfaces wie
Neuralink, die im Gespräch als möglicherweise echtes "Ende des
Interfaces" verhandelt werden, mit allen Chancen für Menschen mit
Einschränkungen und allen ungelösten Fragen zu Update-Zyklen,
Hacking-Risiken und einer neuen, noch tieferen Form der
Assimilation. — Think Different. Think AI. mit Mark Zimmermann und
Jens Scharnetzki. Hören: Apple, Spotify, YouTube, RSS
https://think-ai.podigee.io Neue Folge zuerst im WhatsApp-Kanal
https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004 Wenn euch die
Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet,
ob jemand Neues uns findet.
https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699
Feedback und Gäste: über die Show-Seite.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.