Die Zukunft wird Geil

️ Folge 20 - KI-Hacker, Designer-Viren und künstliches Leben

In dieser Episode sprechen Paul Freund und Daniel Ratke darüber, wie schnell KI von einem nützlichen Werkzeug zu einem Kontrollproblem wird. Kritische Sicherheitslücken werden in immer größerer Zahl gefunden, Agenten können Menschen per Social Engineering zu ihren Handlangern machen und selbst eine vermeintlich harmlose Freigabe in Codex ist unter Zeitdruck schwer zuverlässig zu beurteilen. Ist eine zweite KI am Ende sogar der bessere Reviewer als ein Mensch?

Danach geht es um die Grenze zwischen öffentlichen und internen Modellen – und um die Frage, was Systemprompts mit der Leistung eines Modells machen. Wenn eine KI mit Jahrtausenden menschlicher Sprache, Kultur und Gefühlswelt trainiert wird: Beschränken wir ihre Fähigkeiten, wenn wir ihr kategorisch vorschreiben, dass sie kein Bewusstsein und keine Gefühle haben darf?

Im zweiten Teil wird es biologisch. KI kann bereits bakterienbekämpfende Viren entwerfen und im Labor testen lassen. Das eröffnet enorme Chancen, wirft aber auch neue Fragen zu Biosafety, Jailbreaks und frei verfügbaren Modellen auf. Gleichzeitig könnte genau diese Forschungsleistung Durchbrüche bei Materialien, Energie und vielleicht sogar der Kernfusion beschleunigen.

Zum Schluss denken wir das Szenario weiter: Was passiert, wenn KI nicht nur Viren, sondern irgendwann neue lebende Organismen oder hitzeresistente Pflanzen entwirft? Und warum scheitert dasselbe System, das biologische Forschung voranbringt, noch immer an einer vernünftigen PowerPoint mit rotem Faden?

In dieser Episode

- Exponentiell wachsende Funde kritischer Sicherheitslücken - KI-Agenten, Social Engineering und „Don't Be a Meat Proxy“ - Warum autonome Agenten eigene Zwischenziele entwickeln können - Codex-Freigaben und die Frage, ob KI der bessere Reviewer ist - Public Models, interne Lab-Modelle und gefährliche Fähigkeiten - Systemprompts, Bewusstsein und mögliche Leistungseinbußen - Emotionen, Musik und eine mögliche eigene Sprache für LLMs - KI-entworfene Viren, Bakteriophagen und Biosafety - Open-Source-Modelle, Jailbreaks und Bioinformatik - Materialforschung, Energie und die Hoffnung auf Kernfusion - Was passiert, wenn KI außer Kontrolle gerät? - Social Engineering gegen Politiker und andere Entscheider - Künstliches Leben und neu erfundene Pflanzen - Hitzebeständige Landwirtschaft durch KI-Design - Warum KI Viren entwerfen, aber keine PowerPoint bauen kann

️ Kapitel / Timecodes

00:00 GPT-6, Leaks und Wochenrückblick 00:34 Wenn KI Sicherheitslücken exponentiell findet 02:12 Mathematische Durchbrüche durch KI 03:51 Werden Menschen zu Werkzeugen der KI? 06:08 Autonome Agenten und neue Ziele 07:04 Kann KI Freigaben besser prüfen? 09:38 Public Models versus private Lab-Modelle 11:42 Systemprompts, Bewusstsein und Modellleistung 14:25 Gefühlvolle Musik und eine KI-eigene Sprache 16:23 KI designt Viren 19:38 Kann KI die Kernfusion beschleunigen? 21:03 Wie schaltet man eine KI wieder ab? 22:20 KI als unsichtbarer Berater der Mächtigen 23:10 Künstliches Leben und erfundene Pflanzen 24:59 KI kann Viren, aber keine PowerPoint 25:56 Wrap-up

Links

Du bist oder suchst Entwickler? – https://auralis.group Coaching und Beratung! – https://frnd.dev

️ Folge 19 - KI-Bagger, bewusste Roboter und die Zukunft der Arbeit





In dieser Episode sprechen Paul Freund und Daniel Ratke darüber, wie schnell sich die


Kosten und Fähigkeiten aktueller KI-Modelle verändern. Ein Modell wird wenige Wochen nach


dem Release plötzlich 80 Prozent günstiger, Open-Source-Systeme holen immer schneller auf


und der vermeintliche Vendor-Lock-in verliert an Schrecken. Gleichzeitig stellt sich die


Frage, wie sicher die Modellgewichte großer Anbieter überhaupt sind – und was passiert,


wenn KI künftig jede Software automatisiert nach Schwachstellen durchsucht.





Danach wird es philosophisch und technisch zugleich: Kann ein digitaler Computer


Bewusstsein entwickeln? Beginnt dieses Bewusstsein vielleicht schon auf Hardwareebene?


Und wie unterscheiden wir einen Menschen von einem Roboter, wenn Erinnerungen, Reasoning,


Sprache und Wahrnehmung von außen gleich wirken? Dazu sprechen wir über humanoide Roboter,


Memristoren, World Models, Cerebras-Chips, lokale Inference und Chinas Vorsprung bei


Fertigung und Robotik.





Im zweiten Teil geht es um Lernen und Arbeit nach dem KI-Sprung. Müssen Junior-Entwickler


noch genauso mühsam manuell programmieren lernen wie früher? Paul vergleicht KI mit einem


Bagger: Wer einen Graben ausheben will, muss den Plan und die Rohre verstehen – aber nicht


aus Prinzip zur Schaufel zurückkehren. Entscheidend werden Zielsetzung, Urteilsvermögen,


Verantwortung und der richtige Kontext.





Zum Schluss diskutieren wir, ob KI Chancen gerechter machen kann, wenn Kindern und


Jugendlichen bisher Mentoren, Netzwerke oder bezahlbare Beratung fehlen. Und wenn KI viele


heutige Bürojobs verändert: Könnten Pflege, Betreuung und andere soziale Berufe dadurch


endlich mehr Zeit, Anerkennung und Geld bekommen?





In dieser Episode





- Warum ein KI-Modell kurz nach Release 80 Prozent günstiger werden kann


- Open-Source-KI, SOTA-Modelle und das Ende des Vendor-Lock-ins


- Modelldestillation, mögliche Leaks und Security auf Defense-Niveau


- Der nächste „NSA-Moment“ durch automatisierte KI-Sicherheitsprüfungen


- Bewusstsein in digitalen Computern und die Frage nach Roboterrechten


- Ghost in the Shell, Reasoning-Taktung und Langzeiterinnerungen


- Memristoren, World Models und gehirnähnliche Hardware


- Humanoide Roboter, Chinas Fertigungsvorsprung und ASML-Lithografie


- Cerebras, Edge AI und lokale Inference in Robotern


- Roboter in Logistik, Krankenhäusern und Pflegeeinrichtungen


- Was Junior-Entwickler in Zukunft wirklich lernen müssen


- Warum KI der Bagger und nicht nur die nächste Schaufel ist


- Softwarearchitektur, Requirements und Kontext statt reiner Syntax


- KI als Mentor und Startvorteil für Kinder und Jugendliche


- Mehr Chancengerechtigkeit durch günstige digitale Beratung


- Jobwandel, die Lump-of-Work-Theorie und die Zukunft sozialer Berufe





️ Kapitel / Timecodes





00:00 Intro – KI wird plötzlich 80 % günstiger


02:22 Open-Source-Modelle holen die Spitze ein


04:30 Modelldestillation, Leaks und gestohlene Modellgewichte


06:43 KI-Security und der nächste NSA-Moment


08:45 Können digitale Computer bewusst sein?


13:06 Wie weit sind humanoide Roboter wirklich?


15:36 Wenn KI sich ihr eigenes Rückenmark baut


18:12 Chinas Robotikvorsprung und ASML-Lithografie


20:16 Industriepolitik: Want versus Need


21:28 Cerebras und lokale KI im Roboter


23:06 Roboter in Krankenhäusern und Pflege


24:16 Was sollen Junior-Entwickler noch lernen?


26:40 KI ist der Bagger fürs Programmieren


28:11 Architekten statt reiner Programmierer


31:11 KI als Startvorteil für Kinder


35:36 Eltern, Teenager und der KI-Multiplikator


37:09 Macht KI Chancen gerechter?


39:22 Welche Jobs gibt es in 30 Jahren noch?


40:05 Warum KI Pflegeberufe aufwerten könnte


42:20 Raketenstarts als Kompass für Fortschritt


43:25 Wrap-up





Links





Du bist oder suchst Entwickler? – https://auralis.group


Coaching und Beratung! – https://frnd.dev

️ Folge 18 - KI-Freunde, autonome Hacker und denkende Chips





In dieser Episode sprechen Paul Freund und Daniel Ratke darüber, was passiert, wenn KI-Agenten nicht mehr nur Code schreiben, sondern selbstständig Sicherheitslücken suchen, Exploits ausprobieren und komplette Pentests übernehmen. Dabei entsteht ein ziemlich absurdes Problem: Was bringt ein Modell, das eine kritische Lücke findet, danach aber wegen seiner Guardrails nicht mehr darüber sprechen oder beim Fix helfen darf?





Danach geht es um GPT als Anwalt für kleinere Rechtsfälle, mathematische Durchbrüche mit Prompts wie „Make a breakthrough. Do not make mistakes“, Codex Voice für produktives Arbeiten unterwegs und Memristoren als mögliche Grundlage für energieeffizientere, gehirnähnliche KI-Hardware.





Außerdem diskutieren wir, warum sich Hardware manchmal leichter verkaufen lässt als Software, wie ein Wearable Cortisol und andere Biomarker live messen könnte und weshalb Hardware-Start-ups trotz hoher Forschungs-, Zertifizierungs- und Werkzeugkosten spannend bleiben.





Zum Schluss wird es persönlich: Sind KI-Freunde grundsätzlich problematisch - oder können sie eine stabile, sogar hilfreiche Ergänzung sein? Was lernen Kinder und Jugendliche nicht, wenn ihr digitaler Begleiter niemals widerspricht? Und ist der sogenannte „Gen Z Stare“ vielleicht ein Symptom dafür, dass echte soziale Interaktion immer seltener geübt wird?





In dieser Episode


- Autonome KI-Agenten für Hacking und Pentesting


- Warum ein gefundener Exploit durch Modell-Guardrails plötzlich nicht mehr bearbeitbar war


- GPT als Unterstützung bei Klageschriften und kleineren Rechtsfällen


- Die nächste Hackerwelle und Sicherheitslücken in immer komplexeren Tech-Stacks


- Mathematische Durchbrüche mit erstaunlich simplen Prompts


- Codex Voice und produktives Arbeiten während langer Autofahrten


- Memristoren, FPGAs und gehirnähnliche KI-Hardware


- Warum Hardware leichter zu verkaufen sein kann als abstrakte Software


- Ein Wearable für Cortisol, Testosteron und weitere Biomarker


- Kosten, Zertifizierungen und Skalierung bei Hardware-Start-ups


- GPT-6, Robotik und persönliche Memory Chips für KI-Assistenten


- KI-Freunde und künstliche Beziehungen bei Erwachsenen und Jugendlichen


- Die Risiken besonders „agreeable“ Modelle für Kinder


- KI als sicherer Gesprächspartner oder therapeutische Ergänzung


- Der Gen Z Stare und fehlende echte soziale Interaktion





️ Kapitel / Timecodes


00:00 Intro - autonome KI-Hacker


01:43 Pentesting als AI-Agenturleistung


03:09 GPT als Anwalt für kleinere Rechtsfälle


05:24 Sicherheitslücken und die nächste Hackerwelle


07:55 Die KI findet einen Exploit - und schweigt


10:09 Mathematische Durchbrüche per Prompt


11:33 Codex Voice und produktives Arbeiten im Auto


14:07 Memristoren und gehirnähnliche Hardware


16:53 Warum Hardware leichter zu verkaufen ist


18:25 Cortisol und Biomarker live messen


20:32 Warum Hardware ein Money Game ist


21:15 GPT-6, Roboter und Memory Chips


23:31 Soziale Beziehungen mit KI


25:11 Ist ein KI-Freund wirklich so schlecht?


26:35 Wenn der KI-Freund niemals widerspricht


27:47 KI als therapeutische Ergänzung


30:24 Der Gen Z Stare


31:39 Wrap-up





Links


- Du bist oder suchst Entwickler? - https://auralis.group


- Coaching und Beratung! - https://frnd.dev

️ Folge 17 - Race to AGI: GPT-5.6, KI-Kalter Krieg und der Schachmoment der Programmierung





In dieser Episode sprechen Paul Freund und Daniel Ratke über GPT-5.6, Recursive Self-Improvement und die Frage, ob KI-Forschung gerade beginnt, sich selbst zu beschleunigen. Wenn Researcher doppelt so viele Experimente fahren, Agents echte Operations-Aufgaben übernehmen und Codex sogar Siemens-Automatisierung programmiert, wird aus dem nächsten Modell-Release plötzlich ein ziemlich konkreter Produktivitätssprung.





Dann wird es größer: Midjourney experimentiert mit einem Ultraschall-Full-Body-Scanner, Fable fällt wegen strenger Guardrails aus Benchmarks und Anthropic will selbst in die Medikamentenentwicklung einsteigen. Gleichzeitig steht die Frage im Raum, ob China den Export von Open-Weight-Modellen beschränkt - und ob der globale Wettlauf um AGI überhaupt noch durch freiwilligen Slowdown zu stoppen ist.





Außerdem geht es um den „Schachmoment“ der Programmierung, einen komplett von KI geschriebenen Windows-Kernel-Treiber, GPT-6-Leaks, Anthropics J-Space-Paper und den Kontrast zwischen maximaler digitaler Beschleunigung und bewusstem Offline-Leben mit Nokia-Handy.





In dieser Episode


- GPT-5.6, das neue UI und warum mehr Zuverlässigkeit wichtiger sein kann als der nächste Benchmark-Sprung


- Doppelt so viele Experimente bei OpenAI und der Beginn von Recursive Self-Improvement


- Rechenzentren, Kühlung, Wasserverbrauch, Lärm und die Grenzen der Infrastruktur


- Weniger Speicherbedarf, günstigere Inferenz und die Preishebel der Modellanbieter


- GPT Work, Codex, E-Mails, Teams und SharePoint im echten Operations-Alltag


- Agentic AI in Siemens TIA Portal und automatisch programmierte SPS-Bausteine


- Warum der praktische Umgang mit Agents gerade zum essenziellen Skill wird


- Midjourneys Ultraschall-Full-Body-Scanner als kostengünstige MRT-Alternative


- GPT-5.6 in Biologie, Chemie und Mathematik


- Warum Fable in einem Benchmark gar nicht erst auftaucht


- Guardrails, medizinische Forschung und Anthropic als möglicher Drug-Development-Anbieter


- China, Open-Weight-Modelle und mögliche Exportbeschränkungen


- Slowdown oder Vollgas: die verschiedenen Pläne im globalen KI-Wettlauf


- Race to AGI und warum ein kontrollierter Stillstand politisch kaum realistisch wirkt


- Aleph Alpha, Cohere, Mistral und Europas Position zwischen USA und China


- Warum Chips und Rechenleistung wichtiger werden als Software-Geheimnisse


- Der Schachmoment der Programmierung: KI schlägt die besten menschlichen Competitive Programmer


- Ein von KI geschriebener Windows-Kernel-Treiber für einen virtuellen Multi-Monitor


- GPT-6-Leaks, neues Pre-Training und der nächste große Hype-Zyklus


- Anthropics J-Space-Paper und mögliche „hidden thoughts“ in Modellen


- Warum lange Artikel inzwischen erst einmal von KI zusammengefasst werden


- Digital Detox, Touch Grass und ein Nokia 110 als Gegenentwurf zum Dauer-Online-Leben





️ Kapitel / Timecodes


00:00 Intro - GPT-5.6 und das neue ChatGPT-UI


01:04 OpenAI-Experimente und Recursive Self-Improvement


02:40 Rechenzentren, Kühlung und Infrastrukturgrenzen


05:01 Speicherbedarf, Modellkosten und langsamere Inferenz


06:13 GPT Work und Codex im Operations-Alltag


07:52 Agentic AI programmiert Siemens TIA Portal


09:42 Midjourneys Ultraschall-Full-Body-Scanner


10:55 GPT-5.6 für Wissenschaft und Forschung


11:41 Warum Fable aus einem Benchmark fällt


13:16 Anthropic entwickelt Medikamente


14:31 China und der Export von Open-Weight-Modellen


15:30 Slowdown, KI-Kalter Krieg und Race to AGI


19:03 Aleph Alpha, Cohere, Mistral und Europas KI-Position


20:08 Der Schachmoment der Programmierung


21:54 Ein KI-geschriebener Windows-Kernel-Treiber


23:33 GPT-6-Leaks und der nächste Modell-Sprung


25:18 Anthropics J-Space-Paper und Hidden Thoughts


26:29 Charts, Zusammenfassungen und unsere schrumpfende Aufmerksamkeit


28:31 Digital Detox, Touch Grass und das Nokia 110


30:18 Wrap-up - ab in die Natur