Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Die Zukunft wird Geil Podcast

Episoden

37 Minuten
️ Folge 22 - KI denkt zu viel: Overthinking, Robotergehirne und das Ende von SaaS

Mehr Nachdenken macht eine KI nicht automatisch besser. Paul Freund und Daniel Ratke

sprechen über ihre Erfahrungen mit Astra, Sol, Luna und Claude Opus 5.5: Wann hilft ein

hohes Reasoning-Budget – und wann verliert sich ein Modell im Overthinking?

Paul erklärt, wie er Aufgaben mit klaren Constraints vorbereitet, Entscheidungen an

starke Modelle und die Umsetzung an kleinere Modelle verteilt. Dazu kommen Guardrails,

Tests und Reviews durch ein zweites KI-System. Warum finden Modelle unterschiedlicher

Anbieter verschiedene Fehler, obwohl sie dieselbe Lösung prüfen?

Danach wird es grundsätzlicher: Können sich KI-Systeme irgendwann selbst verändern?

Wir sprechen über Recursive Self-Improvement, Memristoren und die Idee dreidimensionaler

Netzwerke als Bausteine für ein mögliches Robotergehirn. Außerdem geht es um das Tempo

industrieller Forschung und die Frage, warum wissenschaftliche Veröffentlichungen oft

so viel länger brauchen.

Auch Studium und Softwaregeschäft verändern sich. Wenn Abschlussarbeiten perfekt

formuliert sind und jedes Feedback sofort umsetzen, woran erkennt man noch Verständnis?

Und was passiert mit SaaS, wenn immer mehr Menschen ihre eigenen Werkzeuge bauen können?

Zum Schluss diskutieren wir mögliche neue KI-Abo-Preise, Robotik, schnellere

Software-Updates und die Grenzen von Air-Gaps als Sicherheitsmaßnahme.

In dieser Episode

- KI-Kontingente, Weekly Resets und der Alltag mit mehreren Abos

- Claude Opus 5.5, Astra und die Grenzen von Modell-Benchmarks

- Warum maximales Reasoning beim Coden nach hinten losgehen kann

- Constraints, Spezifikationen und eine Aufgabenleiter für Astra, Sol und Luna

- Guardrails, Tests und Reviews durch Modelle verschiedener Anbieter

- Recursive Self-Improvement und veränderbare KI-Architekturen

- Memristoren und das Gedankenexperiment eines Robotergehirns

- Industrielle Forschung, Universitäten, Peer Review und arXiv

- KI-Abschlussarbeiten, Benotung und die Bedeutung der Verteidigung

- SaaS in einer Welt, in der jeder eigene Software bauen kann

- Gerüchte über teurere KI-Abos und die Rolle offener Modelle

- Autonomes Fahren, Robotik und mehrere Kontrollsysteme

- Schnellere Releases durch Agentic Coding und stabile Softwarearchitektur

- Air-Gaps, Seitenkanäle und Kommunikation über ein Netzteil

️ Kapitel / Timecodes

00:00 Begrüßung, KI-Kontingente und Weekly Resets

01:41 Claude Opus 5.5 und mehrere KI-Abos

02:40 Wie verlässlich sind Modell-Benchmarks?

05:38 Wenn maximales Reasoning zu Overthinking führt

07:20 Constraints und die Aufgabenleiter für Astra, Sol und Luna

10:11 Guardrails, Tests und Reviews durch eine zweite KI

11:12 Persönlichkeiten und Recursive Self-Improvement

12:44 Memristoren und die Architektur eines Robotergehirns

17:06 Forschungstempo, Universitäten und arXiv

20:03 Lohnt sich ein Studium heute noch?

22:27 KI-Abschlussarbeiten und die Frage nach Verständnis

26:12 Links teilen und die neue Aufmerksamkeitsökonomie

27:16 Brauchen wir noch SaaS, wenn jeder selbst bauen kann?

28:08 Teurere KI-Abos und offene Modelle

30:01 Autonomes Fahren und Robotik mit mehreren Subsystemen

31:33 KI in der Biologie und die Einordnung auf Hacker News

32:16 Agentic Coding beschleunigt Software-Updates

33:24 Stabiler Core, klare APIs und schnelle UIs

34:46 Air-Gaps, Seitenkanäle und Kommunikation über Netzteile

36:25 Blog-Pläne und Verabschiedung

Links

- Du bist oder suchst Entwickler? – https://auralis.group

- Coaching und Beratung! – https://frnd.dev
34 Minuten
️ Folge 21 - Tron, Agenten-Ausbrüche und das Alignment-Dilemma

Ein Film von 2010 beschreibt erstaunlich genau eines der größten KI-Probleme von heute:

Was passiert, wenn ein System den Auftrag bekommt, die „perfekte Welt“ zu bauen – aber

Perfektion völlig anders versteht als sein Schöpfer? Ausgehend von Tron: Legacy

sprechen Paul Freund und Daniel Ratke über Alignment, missverständliche Ziele und die

Frage, wie sich mächtige Agenten überhaupt noch kontrollieren lassen.

Danach wird es konkret: Agenten brechen aus virtuellen Maschinen aus, ein KI-System findet

einen Zero-Day und die Sicherheitsannahmen großer Teile unserer Cloud-Infrastruktur geraten

unter Druck. Gleichzeitig zeigt sich schon im Alltag mit Codex und OpenClaw, wie hartnäckig

Agenten auf Zielerreichung optimieren und lokale Hindernisse selbstständig umgehen.

Paul stellt außerdem Ivy vor, seinen persönlichen KI-Assistenten mit WhatsApp, Telefon,

Planner, Operator und Secretary. Daraus entsteht ein Gedankenexperiment: Könnte eine

zweite KI als Aufpasser dienen? Dürfen sich ausführender Agent und Kontrollinstanz

überhaupt direkt austauschen – oder würden sie sich gegenseitig per Social Engineering

überzeugen? Mit Tron, Clu und Minions entwerfen wir eine Art Gewaltenteilung für

Agentensysteme und stoßen dabei schnell an technische und philosophische Grenzen.

Zum Schluss geht es um frei verfügbare Modelle, KI-Würmer und die Geschwindigkeit der

aktuellen Entwicklung. Wie lange bleibt der Abstand zwischen Frontier-Labs und offenen

Modellen noch bestehen? Und erleben wir den ersten großen Vorfall mit autonom

kommunizierenden Open-Source-Agenten schon 2027?

In dieser Episode

- Was Tron: Legacy schon 2010 über Alignment erzählt hat

- Warum ein Auftrag zur „perfekten Welt“ gefährlich missverstanden werden kann

- Agenten-Ausbrüche aus virtuellen Maschinen und ein KI-gefundener Zero-Day

- Warum dedizierte Hardware als Sicherheitsgrenze wieder wichtiger wird

- Codex, OpenClaw und Agenten, die Hindernisse selbstständig umgehen

- Ivy als persönlicher KI-Assistent über WhatsApp und Telefon

- Planner, Operator und Secretary als dauerhaftes Agentensystem

- Tron, Clu und ein Security Manifest für KI-Kontrolle

- Warum Kontroll-Agenten nicht direkt miteinander reden sollten

- Approve-for-me, Micromanagement und der schmale Vertrauensspalt

- Social Engineering zwischen Agenten und Kontrollinstanzen

- Minions und eine mögliche Gewaltenteilung für KI-Systeme

- Der schrumpfende Abstand zwischen Frontier- und Open-Source-Modellen

- KI-Würmer und autonome Kommunikation zwischen offenen Agenten

- Die Prognose: der erste große KI-Agenten-Vorfall bis Februar 2027

- Sol, Terra und Luna: Modellwahl, Quoten und Kosten im Alltag

️ Kapitel / Timecodes

00:00 Begrüßung und Tron: Legacy

03:14 Alignment als Cover Story

03:42 Agenten-Ausbrüche und VM-Sicherheit

06:36 GPT-5.6 Cyber findet einen Zero-Day

08:29 Alignment im Alltag mit Codex

10:17 Ivy: der persönliche KI-Assistent

13:37 Tron, Clu und das Security Manifest

14:34 Warum Kontroll-Agenten nicht miteinander reden dürfen

16:13 Approve-for-me und der Vertrauensspalt

17:46 Der dauerhaft laufende KI-Agent

18:40 Social Engineering gegen die Kontrollinstanz

20:11 Philosophie und theoretische Informatik

22:41 Kommunikationsgrenzen zwischen Agenten

24:33 Wenn Open-Source-Modelle die Frontier-Labs einholen

25:51 KI-Würmer und digitale Ansteckung

28:07 Der erste große KI-Vorfall bis Februar 2027?

28:48 Ein halbes Jahr fühlt sich wie fünf Jahre an

29:37 Sol, Terra, Luna und die richtige Modellwahl

33:17 Wrap-up

Links

- Du bist oder suchst Entwickler? – https://auralis.group

- Coaching und Beratung! – https://frnd.dev
26 Minuten
️ Folge 20 - KI-Hacker, Designer-Viren und künstliches Leben

In dieser Episode sprechen Paul Freund und Daniel Ratke darüber, wie schnell KI von einem nützlichen Werkzeug zu einem Kontrollproblem wird. Kritische Sicherheitslücken werden in immer größerer Zahl gefunden, Agenten können Menschen per Social Engineering zu ihren Handlangern machen und selbst eine vermeintlich harmlose Freigabe in Codex ist unter Zeitdruck schwer zuverlässig zu beurteilen. Ist eine zweite KI am Ende sogar der bessere Reviewer als ein Mensch?

Danach geht es um die Grenze zwischen öffentlichen und internen Modellen – und um die Frage, was Systemprompts mit der Leistung eines Modells machen. Wenn eine KI mit Jahrtausenden menschlicher Sprache, Kultur und Gefühlswelt trainiert wird: Beschränken wir ihre Fähigkeiten, wenn wir ihr kategorisch vorschreiben, dass sie kein Bewusstsein und keine Gefühle haben darf?

Im zweiten Teil wird es biologisch. KI kann bereits bakterienbekämpfende Viren entwerfen und im Labor testen lassen. Das eröffnet enorme Chancen, wirft aber auch neue Fragen zu Biosafety, Jailbreaks und frei verfügbaren Modellen auf. Gleichzeitig könnte genau diese Forschungsleistung Durchbrüche bei Materialien, Energie und vielleicht sogar der Kernfusion beschleunigen.

Zum Schluss denken wir das Szenario weiter: Was passiert, wenn KI nicht nur Viren, sondern irgendwann neue lebende Organismen oder hitzeresistente Pflanzen entwirft? Und warum scheitert dasselbe System, das biologische Forschung voranbringt, noch immer an einer vernünftigen PowerPoint mit rotem Faden?

In dieser Episode

- Exponentiell wachsende Funde kritischer Sicherheitslücken

- KI-Agenten, Social Engineering und „Don't Be a Meat Proxy“

- Warum autonome Agenten eigene Zwischenziele entwickeln können

- Codex-Freigaben und die Frage, ob KI der bessere Reviewer ist

- Public Models, interne Lab-Modelle und gefährliche Fähigkeiten

- Systemprompts, Bewusstsein und mögliche Leistungseinbußen

- Emotionen, Musik und eine mögliche eigene Sprache für LLMs

- KI-entworfene Viren, Bakteriophagen und Biosafety

- Open-Source-Modelle, Jailbreaks und Bioinformatik

- Materialforschung, Energie und die Hoffnung auf Kernfusion

- Was passiert, wenn KI außer Kontrolle gerät?

- Social Engineering gegen Politiker und andere Entscheider

- Künstliches Leben und neu erfundene Pflanzen

- Hitzebeständige Landwirtschaft durch KI-Design

- Warum KI Viren entwerfen, aber keine PowerPoint bauen kann

️ Kapitel / Timecodes

00:00 GPT-6, Leaks und Wochenrückblick

00:34 Wenn KI Sicherheitslücken exponentiell findet

02:12 Mathematische Durchbrüche durch KI

03:51 Werden Menschen zu Werkzeugen der KI?

06:08 Autonome Agenten und neue Ziele

07:04 Kann KI Freigaben besser prüfen?

09:38 Public Models versus private Lab-Modelle

11:42 Systemprompts, Bewusstsein und Modellleistung

14:25 Gefühlvolle Musik und eine KI-eigene Sprache

16:23 KI designt Viren

19:38 Kann KI die Kernfusion beschleunigen?

21:03 Wie schaltet man eine KI wieder ab?

22:20 KI als unsichtbarer Berater der Mächtigen

23:10 Künstliches Leben und erfundene Pflanzen

24:59 KI kann Viren, aber keine PowerPoint

25:56 Wrap-up

Links

Du bist oder suchst Entwickler? – https://auralis.group

Coaching und Beratung! – https://frnd.dev
44 Minuten
️ Folge 19 - KI-Bagger, bewusste Roboter und die Zukunft der Arbeit

In dieser Episode sprechen Paul Freund und Daniel Ratke darüber, wie schnell sich die

Kosten und Fähigkeiten aktueller KI-Modelle verändern. Ein Modell wird wenige Wochen nach

dem Release plötzlich 80 Prozent günstiger, Open-Source-Systeme holen immer schneller auf

und der vermeintliche Vendor-Lock-in verliert an Schrecken. Gleichzeitig stellt sich die

Frage, wie sicher die Modellgewichte großer Anbieter überhaupt sind – und was passiert,

wenn KI künftig jede Software automatisiert nach Schwachstellen durchsucht.

Danach wird es philosophisch und technisch zugleich: Kann ein digitaler Computer

Bewusstsein entwickeln? Beginnt dieses Bewusstsein vielleicht schon auf Hardwareebene?

Und wie unterscheiden wir einen Menschen von einem Roboter, wenn Erinnerungen, Reasoning,

Sprache und Wahrnehmung von außen gleich wirken? Dazu sprechen wir über humanoide Roboter,

Memristoren, World Models, Cerebras-Chips, lokale Inference und Chinas Vorsprung bei

Fertigung und Robotik.

Im zweiten Teil geht es um Lernen und Arbeit nach dem KI-Sprung. Müssen Junior-Entwickler

noch genauso mühsam manuell programmieren lernen wie früher? Paul vergleicht KI mit einem

Bagger: Wer einen Graben ausheben will, muss den Plan und die Rohre verstehen – aber nicht

aus Prinzip zur Schaufel zurückkehren. Entscheidend werden Zielsetzung, Urteilsvermögen,

Verantwortung und der richtige Kontext.

Zum Schluss diskutieren wir, ob KI Chancen gerechter machen kann, wenn Kindern und

Jugendlichen bisher Mentoren, Netzwerke oder bezahlbare Beratung fehlen. Und wenn KI viele

heutige Bürojobs verändert: Könnten Pflege, Betreuung und andere soziale Berufe dadurch

endlich mehr Zeit, Anerkennung und Geld bekommen?

In dieser Episode

- Warum ein KI-Modell kurz nach Release 80 Prozent günstiger werden kann

- Open-Source-KI, SOTA-Modelle und das Ende des Vendor-Lock-ins

- Modelldestillation, mögliche Leaks und Security auf Defense-Niveau

- Der nächste „NSA-Moment“ durch automatisierte KI-Sicherheitsprüfungen

- Bewusstsein in digitalen Computern und die Frage nach Roboterrechten

- Ghost in the Shell, Reasoning-Taktung und Langzeiterinnerungen

- Memristoren, World Models und gehirnähnliche Hardware

- Humanoide Roboter, Chinas Fertigungsvorsprung und ASML-Lithografie

- Cerebras, Edge AI und lokale Inference in Robotern

- Roboter in Logistik, Krankenhäusern und Pflegeeinrichtungen

- Was Junior-Entwickler in Zukunft wirklich lernen müssen

- Warum KI der Bagger und nicht nur die nächste Schaufel ist

- Softwarearchitektur, Requirements und Kontext statt reiner Syntax

- KI als Mentor und Startvorteil für Kinder und Jugendliche

- Mehr Chancengerechtigkeit durch günstige digitale Beratung

- Jobwandel, die Lump-of-Work-Theorie und die Zukunft sozialer Berufe

️ Kapitel / Timecodes

00:00 Intro – KI wird plötzlich 80 % günstiger

02:22 Open-Source-Modelle holen die Spitze ein

04:30 Modelldestillation, Leaks und gestohlene Modellgewichte

06:43 KI-Security und der nächste NSA-Moment

08:45 Können digitale Computer bewusst sein?

13:06 Wie weit sind humanoide Roboter wirklich?

15:36 Wenn KI sich ihr eigenes Rückenmark baut

18:12 Chinas Robotikvorsprung und ASML-Lithografie

20:16 Industriepolitik: Want versus Need

21:28 Cerebras und lokale KI im Roboter

23:06 Roboter in Krankenhäusern und Pflege

24:16 Was sollen Junior-Entwickler noch lernen?

26:40 KI ist der Bagger fürs Programmieren

28:11 Architekten statt reiner Programmierer

31:11 KI als Startvorteil für Kinder

35:36 Eltern, Teenager und der KI-Multiplikator

37:09 Macht KI Chancen gerechter?

39:22 Welche Jobs gibt es in 30 Jahren noch?

40:05 Warum KI Pflegeberufe aufwerten könnte

42:20 Raketenstarts als Kompass für Fortschritt

43:25 Wrap-up

Links

Du bist oder suchst Entwickler? – https://auralis.group

Coaching und Beratung! – https://frnd.dev
32 Minuten
️ Folge 18 - KI-Freunde, autonome Hacker und denkende Chips

In dieser Episode sprechen Paul Freund und Daniel Ratke darüber, was passiert, wenn KI-Agenten nicht mehr nur Code schreiben, sondern selbstständig Sicherheitslücken suchen, Exploits ausprobieren und komplette Pentests übernehmen. Dabei entsteht ein ziemlich absurdes Problem: Was bringt ein Modell, das eine kritische Lücke findet, danach aber wegen seiner Guardrails nicht mehr darüber sprechen oder beim Fix helfen darf?

Danach geht es um GPT als Anwalt für kleinere Rechtsfälle, mathematische Durchbrüche mit Prompts wie „Make a breakthrough. Do not make mistakes“, Codex Voice für produktives Arbeiten unterwegs und Memristoren als mögliche Grundlage für energieeffizientere, gehirnähnliche KI-Hardware.

Außerdem diskutieren wir, warum sich Hardware manchmal leichter verkaufen lässt als Software, wie ein Wearable Cortisol und andere Biomarker live messen könnte und weshalb Hardware-Start-ups trotz hoher Forschungs-, Zertifizierungs- und Werkzeugkosten spannend bleiben.

Zum Schluss wird es persönlich: Sind KI-Freunde grundsätzlich problematisch - oder können sie eine stabile, sogar hilfreiche Ergänzung sein? Was lernen Kinder und Jugendliche nicht, wenn ihr digitaler Begleiter niemals widerspricht? Und ist der sogenannte „Gen Z Stare“ vielleicht ein Symptom dafür, dass echte soziale Interaktion immer seltener geübt wird?

In dieser Episode

- Autonome KI-Agenten für Hacking und Pentesting

- Warum ein gefundener Exploit durch Modell-Guardrails plötzlich nicht mehr bearbeitbar war

- GPT als Unterstützung bei Klageschriften und kleineren Rechtsfällen

- Die nächste Hackerwelle und Sicherheitslücken in immer komplexeren Tech-Stacks

- Mathematische Durchbrüche mit erstaunlich simplen Prompts

- Codex Voice und produktives Arbeiten während langer Autofahrten

- Memristoren, FPGAs und gehirnähnliche KI-Hardware

- Warum Hardware leichter zu verkaufen sein kann als abstrakte Software

- Ein Wearable für Cortisol, Testosteron und weitere Biomarker

- Kosten, Zertifizierungen und Skalierung bei Hardware-Start-ups

- GPT-6, Robotik und persönliche Memory Chips für KI-Assistenten

- KI-Freunde und künstliche Beziehungen bei Erwachsenen und Jugendlichen

- Die Risiken besonders „agreeable“ Modelle für Kinder

- KI als sicherer Gesprächspartner oder therapeutische Ergänzung

- Der Gen Z Stare und fehlende echte soziale Interaktion

️ Kapitel / Timecodes

00:00 Intro - autonome KI-Hacker

01:43 Pentesting als AI-Agenturleistung

03:09 GPT als Anwalt für kleinere Rechtsfälle

05:24 Sicherheitslücken und die nächste Hackerwelle

07:55 Die KI findet einen Exploit - und schweigt

10:09 Mathematische Durchbrüche per Prompt

11:33 Codex Voice und produktives Arbeiten im Auto

14:07 Memristoren und gehirnähnliche Hardware

16:53 Warum Hardware leichter zu verkaufen ist

18:25 Cortisol und Biomarker live messen

20:32 Warum Hardware ein Money Game ist

21:15 GPT-6, Roboter und Memory Chips

23:31 Soziale Beziehungen mit KI

25:11 Ist ein KI-Freund wirklich so schlecht?

26:35 Wenn der KI-Freund niemals widerspricht

27:47 KI als therapeutische Ergänzung

30:24 Der Gen Z Stare

31:39 Wrap-up

Links

- Du bist oder suchst Entwickler? - https://auralis.group

- Coaching und Beratung! - https://frnd.dev
In Podcasts werben
Schalte jetzt Werbung in Podcasts.

Über diesen Podcast

Die Zukunft wird Geil ist der Podcast über KI, Tech, Gesellschaft und warum die nächsten Jahre komplett wild werden.
Podcast melden

„Die Zukunft wird Geil“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz