EP18 - KI-Freunde, autonome Hacker und denkende Chips

️ Folge 18 - KI-Freunde, autonome Hacker und denkende Chips





In dieser Episode sprechen Paul Freund und Daniel Ratke darüber,
was passiert, wenn KI-Agenten nicht mehr nur Code schreiben,
sondern selbstständig Sicherheitslücken suchen, Exploits
ausprobieren und komplette Pentests übernehmen. Dabei entsteht
ein ziemlich absurdes Problem: Was bringt ein Modell, das eine
kritische Lücke findet, danach aber wegen seiner Guardrails nicht
mehr darüber sprechen oder beim Fix helfen darf?





Danach geht es um GPT als Anwalt für kleinere Rechtsfälle,
mathematische Durchbrüche mit Prompts wie „Make a breakthrough.
Do not make mistakes“, Codex Voice für produktives Arbeiten
unterwegs und Memristoren als mögliche Grundlage für
energieeffizientere, gehirnähnliche KI-Hardware.





Außerdem diskutieren wir, warum sich Hardware manchmal leichter
verkaufen lässt als Software, wie ein Wearable Cortisol und
andere Biomarker live messen könnte und weshalb
Hardware-Start-ups trotz hoher Forschungs-, Zertifizierungs- und
Werkzeugkosten spannend bleiben.





Zum Schluss wird es persönlich: Sind KI-Freunde grundsätzlich
problematisch - oder können sie eine stabile, sogar hilfreiche
Ergänzung sein? Was lernen Kinder und Jugendliche nicht, wenn ihr
digitaler Begleiter niemals widerspricht? Und ist der sogenannte
„Gen Z Stare“ vielleicht ein Symptom dafür, dass echte soziale
Interaktion immer seltener geübt wird?





In dieser Episode


- Autonome KI-Agenten für Hacking und Pentesting


- Warum ein gefundener Exploit durch Modell-Guardrails plötzlich
nicht mehr bearbeitbar war


- GPT als Unterstützung bei Klageschriften und kleineren
Rechtsfällen


- Die nächste Hackerwelle und Sicherheitslücken in immer
komplexeren Tech-Stacks


- Mathematische Durchbrüche mit erstaunlich simplen Prompts


- Codex Voice und produktives Arbeiten während langer Autofahrten


- Memristoren, FPGAs und gehirnähnliche KI-Hardware


- Warum Hardware leichter zu verkaufen sein kann als abstrakte
Software


- Ein Wearable für Cortisol, Testosteron und weitere Biomarker


- Kosten, Zertifizierungen und Skalierung bei Hardware-Start-ups


- GPT-6, Robotik und persönliche Memory Chips für KI-Assistenten


- KI-Freunde und künstliche Beziehungen bei Erwachsenen und
Jugendlichen


- Die Risiken besonders „agreeable“ Modelle für Kinder


- KI als sicherer Gesprächspartner oder therapeutische Ergänzung


- Der Gen Z Stare und fehlende echte soziale Interaktion





️ Kapitel / Timecodes


00:00 Intro - autonome KI-Hacker


01:43 Pentesting als AI-Agenturleistung


03:09 GPT als Anwalt für kleinere Rechtsfälle


05:24 Sicherheitslücken und die nächste Hackerwelle


07:55 Die KI findet einen Exploit - und schweigt


10:09 Mathematische Durchbrüche per Prompt


11:33 Codex Voice und produktives Arbeiten im Auto


14:07 Memristoren und gehirnähnliche Hardware


16:53 Warum Hardware leichter zu verkaufen ist


18:25 Cortisol und Biomarker live messen


20:32 Warum Hardware ein Money Game ist


21:15 GPT-6, Roboter und Memory Chips


23:31 Soziale Beziehungen mit KI


25:11 Ist ein KI-Freund wirklich so schlecht?


26:35 Wenn der KI-Freund niemals widerspricht


27:47 KI als therapeutische Ergänzung


30:24 Der Gen Z Stare


31:39 Wrap-up





Links


- Du bist oder suchst Entwickler? - https://auralis.group


- Coaching und Beratung! - https://frnd.dev