Agent Mensch

Künstliche Intelligenz und Demokratie – das klingt nach Zukunftsmusik. Nach Politikwissenschafts-Seminar, nach etwas, das sich langsam entwickelt und über das wir noch lange nachdenken können.


Aber das stimmt nicht. Es passiert jetzt.


In dieser Folge schauen wir auf das, was KI gerade mit dem Fundament unserer Gesellschaft macht. Mit der Art, wie wir Meinungen bilden, wie wir entscheiden, wie wir überhaupt noch wissen, was wahr ist und was jemand für uns konstruiert hat. Wir sprechen über Desinformation, die nicht mehr von menschlichem Ausdruck zu unterscheiden ist. Über synthetische Graswurzel-Bewegungen, die echte Zivilgesellschaft unsichtbar machen. Über Algorithmen, die uns in isolierte Informationsräume sortieren, bis wir nicht mehr an demselben Gespräch teilnehmen wie die Person drei Straßen weiter. Und über etwas, das noch kaum jemand laut sagt: dass die Frage, auf wessen Werte KI ausgerichtet wird, bereits eine demokratische Entscheidung ist. Eine, die gerade von kleinen Teams in großen Unternehmen getroffen wird. Ohne uns.


In dieser Folge:  Welche drei Säulen der Demokratie gerade unter Druck stehen.  Desinformation im industriellen Maßstab, von der Slowakei 2023 bis zu einem Szenario für 2029, das erschreckend plausibel klingt. AI Swarming und die Erosion der geteilten Wirklichkeit.  Und die andere Seite: Taiwan, Moral Graph Elicitation, Generative Social Choice, Ansätze, die zeigen, dass KI Demokratie auch echter und zugänglicher machen kann.


Und, wie immer, machen wir das persönlich: Hast du das Gefühl, dass deine Stimme zählt? Was macht es mit dir, wenn du nicht mehr weißt, ob das, was du siehst, echt ist? Und was verändert sich in deiner Motivation, dich überhaupt noch einzubringen?


Zum Newsletter der Folge mit allen Quellen und einem Reflexionsfragebogen geht es hier: https://steady.page/de/agent-mensch/posts/af61a079-25f5-418e-b09b-fa06394c13a7

Künstliche Intelligenz ist längst kein Science-Fiction-Thema mehr. Sie ist mitten im Krieg angekommen. In dieser Folge schauen wir nüchtern auf das, was gerade wirklich passiert: in der Ukraine, in Gaza, im Iran. Und auf das, was das für uns alle bedeutet. Wir sprechen über autonome Drohnen, die ohne menschliches Eingreifen fliegen und töten. Über KI-Zielsysteme wie „Lavender" und „Gospel", die in Gaza Tausende Angriffsziele generiert haben. Über Project Maven, das die Arbeit von 2.000 Geheimdienstoffizieren auf 20 Operatoren komprimiert. Und über die entscheidende Frage: Was bedeutet „human in the loop" noch, wenn der Mensch unter extremem Zeitdruck nur noch einen Freigabeknopf drückt? Wir beleuchten die gefährliche Verbindung zwischen Silicon Valley und Militär – von Palantir bis OpenAI – und warum Venture-Capital-Logik und Kriegstechnologie eine besonders brisante Mischung ergeben. Und wir zeigen, wie militärische Überwachungsinfrastruktur den Weg zurück in die zivile Gesellschaft findet – als Migrationsüberwachung, Polizeitechnologie, staatliches Kontrollwerkzeug.  In dieser Folge: Wo KI heute auf dem Schlachtfeld eingesetzt wird Die Kill Chain und was Automatisierung dort anrichtet Warum „Präzision" oft eine Erzählung ist Der Accountability Gap: Wer haftet, wenn eine Maschine tötet? Silicon Valley und Militär: eine neue, unheilvolle Allianz Der imperiale Bumerang – wenn Kriegstechnologie nach innen zurückkehrt Was vernünftige Gegenmaßnahmen aussehen könnten  Und, wie immer, diskutieren wir diese Themen persönlich: Wie nah oder fern ist dir das Thema Krieg – und warum? Wie gehst du mit Deutschlands massiver Aufrüstung um – auch vor dem Hintergrund deiner Familiengeschichte? Profitierst du gerade von Rüstungsgewinnen – über deinen ETF oder deine Altersvorsorge? Gibt es für dich eine Situation, in der eine Maschine ohne menschliche Kontrolle über Leben und Tod entscheiden darf? Palantir läuft in deutschen Polizeibehörden, Helsing baut Drohnen in Bayern – was davon fühlt sich nah an? 

Wann habt ihr das letzte Mal eine KI genutzt? Und wann habt ihr das letzte Mal nachgedacht, was sie dabei über euch gelernt hat? Wir stellen KI-Assistenten täglich unsere intimsten Fragen — über Gesundheit, Geld, Beziehungen, Ängste. Was damit passiert, bleibt für die meisten von uns im Dunkeln. In dieser Episode gehen Joana und Bettina das Thema KI und Sicherheit in sieben Themenblöcken durch — nicht als abstraktes Tech-Problem, sondern als etwas, das uns alle schon heute betrifft. 

In dieser Folge schauen wir uns an, was Künstliche Intelligenz im Gesundheitswesen wirklich verändern kann — und wo die Grenzen liegen. Wir beginnen mit einem Blick auf das deutsche Gesundheitssystem: Warum gibt Deutschland mehr aus als fast alle anderen OECD-Länder, und wo hakt es trotzdem? Dann sprechen wir über die echten Durchbrüche — von AlphaFold, das eines der schwersten Probleme der Biologie löste, über KI-gestütztes Mammographie-Screening bis hin zu Gehirnimplantaten, die Gelähmten die Kontrolle über Computer ermöglichen. Wir hören außerdem von einer Freundin, die mit einer komplexen Krankheit lebt und beschreibt, wie KI ihr zum ersten Mal einen Resonanzraum gab, in dem sie gehört wurde, ihre eigene Krankheitsgeschichte verstehen und besser mit Ärztinnen und Ärzten sprechen konnte. Gleichzeitig fragen wir: Wo stößt der Hype an Grenzen? Wir sprechen über Fälle, in denen KI-Systeme im klinischen Alltag versagten, über Verzerrungen in Algorithmen, die bestimmte Gruppen systematisch benachteiligen, und über die Frage, was mit unseren sensibelsten Daten passiert, wenn Plattformen zum neuen Interface zwischen Mensch und Medizin werden. Am Ende steht eine politische Frage: Wofür setzen wir KI im Gesundheitswesen ein — für ein menschlicheres, gerechteres System? Oder vor allem für Effizienz und Kontrolle? Die Technologie allein entscheidet das nicht. Wir schon.