Startseite
Podcasts
Die Zukunft wird Geil Podcast
EP18 - KI-Freunde, autonome Hacker und denkende Chips

EP18 - KI-Freunde, autonome Hacker und denkende Chips

Die Zukunft wird Geil vor 2 Monaten

0:00

31:50

️ Folge 18 - KI-Freunde, autonome Hacker und denkende Chips

In dieser Episode sprechen Paul Freund und Daniel Ratke darüber,
was passiert, wenn KI-Agenten nicht mehr nur Code schreiben,
sondern selbstständig Sicherheitslücken suchen, Exploits
ausprobieren und komplette Pentests übernehmen. Dabei entsteht
ein ziemlich absurdes Problem: Was bringt ein Modell, das eine
kritische Lücke findet, danach aber wegen seiner Guardrails nicht
mehr darüber sprechen oder beim Fix helfen darf?

Danach geht es um GPT als Anwalt für kleinere Rechtsfälle,
mathematische Durchbrüche mit Prompts wie „Make a breakthrough.
Do not make mistakes“, Codex Voice für produktives Arbeiten
unterwegs und Memristoren als mögliche Grundlage für
energieeffizientere, gehirnähnliche KI-Hardware.

Außerdem diskutieren wir, warum sich Hardware manchmal leichter
verkaufen lässt als Software, wie ein Wearable Cortisol und
andere Biomarker live messen könnte und weshalb
Hardware-Start-ups trotz hoher Forschungs-, Zertifizierungs- und
Werkzeugkosten spannend bleiben.

Zum Schluss wird es persönlich: Sind KI-Freunde grundsätzlich
problematisch - oder können sie eine stabile, sogar hilfreiche
Ergänzung sein? Was lernen Kinder und Jugendliche nicht, wenn ihr
digitaler Begleiter niemals widerspricht? Und ist der sogenannte
„Gen Z Stare“ vielleicht ein Symptom dafür, dass echte soziale
Interaktion immer seltener geübt wird?

In dieser Episode

- Autonome KI-Agenten für Hacking und Pentesting

- Warum ein gefundener Exploit durch Modell-Guardrails plötzlich
nicht mehr bearbeitbar war

- GPT als Unterstützung bei Klageschriften und kleineren
Rechtsfällen

- Die nächste Hackerwelle und Sicherheitslücken in immer
komplexeren Tech-Stacks

- Mathematische Durchbrüche mit erstaunlich simplen Prompts

- Codex Voice und produktives Arbeiten während langer Autofahrten

- Memristoren, FPGAs und gehirnähnliche KI-Hardware

- Warum Hardware leichter zu verkaufen sein kann als abstrakte
Software

- Ein Wearable für Cortisol, Testosteron und weitere Biomarker

- Kosten, Zertifizierungen und Skalierung bei Hardware-Start-ups

- GPT-6, Robotik und persönliche Memory Chips für KI-Assistenten

- KI-Freunde und künstliche Beziehungen bei Erwachsenen und
Jugendlichen

- Die Risiken besonders „agreeable“ Modelle für Kinder

- KI als sicherer Gesprächspartner oder therapeutische Ergänzung

- Der Gen Z Stare und fehlende echte soziale Interaktion

️ Kapitel / Timecodes

00:00 Intro - autonome KI-Hacker

01:43 Pentesting als AI-Agenturleistung

03:09 GPT als Anwalt für kleinere Rechtsfälle

05:24 Sicherheitslücken und die nächste Hackerwelle

07:55 Die KI findet einen Exploit - und schweigt

10:09 Mathematische Durchbrüche per Prompt

11:33 Codex Voice und produktives Arbeiten im Auto

14:07 Memristoren und gehirnähnliche Hardware

16:53 Warum Hardware leichter zu verkaufen ist

18:25 Cortisol und Biomarker live messen

20:32 Warum Hardware ein Money Game ist

21:15 GPT-6, Roboter und Memory Chips

23:31 Soziale Beziehungen mit KI

25:11 Ist ein KI-Freund wirklich so schlecht?

26:35 Wenn der KI-Freund niemals widerspricht

27:47 KI als therapeutische Ergänzung

30:24 Der Gen Z Stare

31:39 Wrap-up

Links

- Du bist oder suchst Entwickler? - https://auralis.group

- Coaching und Beratung! - https://frnd.dev