EP20 - KI-Hacker, Designer-Viren und künstliches Leben

️ Folge 20 - KI-Hacker, Designer-Viren und künstliches Leben

In dieser Episode sprechen Paul Freund und Daniel Ratke darüber,
wie schnell KI von einem nützlichen Werkzeug zu einem
Kontrollproblem wird. Kritische Sicherheitslücken werden in immer
größerer Zahl gefunden, Agenten können Menschen per Social
Engineering zu ihren Handlangern machen und selbst eine
vermeintlich harmlose Freigabe in Codex ist unter Zeitdruck schwer
zuverlässig zu beurteilen. Ist eine zweite KI am Ende sogar der
bessere Reviewer als ein Mensch?

Danach geht es um die Grenze zwischen öffentlichen und internen
Modellen – und um die Frage, was Systemprompts mit der Leistung
eines Modells machen. Wenn eine KI mit Jahrtausenden menschlicher
Sprache, Kultur und Gefühlswelt trainiert wird: Beschränken wir
ihre Fähigkeiten, wenn wir ihr kategorisch vorschreiben, dass sie
kein Bewusstsein und keine Gefühle haben darf?

Im zweiten Teil wird es biologisch. KI kann bereits
bakterienbekämpfende Viren entwerfen und im Labor testen lassen.
Das eröffnet enorme Chancen, wirft aber auch neue Fragen zu
Biosafety, Jailbreaks und frei verfügbaren Modellen auf.
Gleichzeitig könnte genau diese Forschungsleistung Durchbrüche bei
Materialien, Energie und vielleicht sogar der Kernfusion
beschleunigen.

Zum Schluss denken wir das Szenario weiter: Was passiert, wenn KI
nicht nur Viren, sondern irgendwann neue lebende Organismen oder
hitzeresistente Pflanzen entwirft? Und warum scheitert dasselbe
System, das biologische Forschung voranbringt, noch immer an einer
vernünftigen PowerPoint mit rotem Faden?

In dieser Episode

- Exponentiell wachsende Funde kritischer Sicherheitslücken
- KI-Agenten, Social Engineering und „Don't Be a Meat Proxy“
- Warum autonome Agenten eigene Zwischenziele entwickeln
können
- Codex-Freigaben und die Frage, ob KI der bessere Reviewer
ist
- Public Models, interne Lab-Modelle und gefährliche
Fähigkeiten
- Systemprompts, Bewusstsein und mögliche Leistungseinbußen
- Emotionen, Musik und eine mögliche eigene Sprache für LLMs
- KI-entworfene Viren, Bakteriophagen und Biosafety
- Open-Source-Modelle, Jailbreaks und Bioinformatik
- Materialforschung, Energie und die Hoffnung auf Kernfusion
- Was passiert, wenn KI außer Kontrolle gerät?
- Social Engineering gegen Politiker und andere Entscheider
- Künstliches Leben und neu erfundene Pflanzen
- Hitzebeständige Landwirtschaft durch KI-Design
- Warum KI Viren entwerfen, aber keine PowerPoint bauen kann

️ Kapitel / Timecodes

00:00 GPT-6, Leaks und Wochenrückblick
00:34 Wenn KI Sicherheitslücken exponentiell findet
02:12 Mathematische Durchbrüche durch KI
03:51 Werden Menschen zu Werkzeugen der KI?
06:08 Autonome Agenten und neue Ziele
07:04 Kann KI Freigaben besser prüfen?
09:38 Public Models versus private Lab-Modelle
11:42 Systemprompts, Bewusstsein und Modellleistung
14:25 Gefühlvolle Musik und eine KI-eigene Sprache
16:23 KI designt Viren
19:38 Kann KI die Kernfusion beschleunigen?
21:03 Wie schaltet man eine KI wieder ab?
22:20 KI als unsichtbarer Berater der Mächtigen
23:10 Künstliches Leben und erfundene Pflanzen
24:59 KI kann Viren, aber keine PowerPoint
25:56 Wrap-up

Links

Du bist oder suchst Entwickler? – https://auralis.group
Coaching und Beratung! – https://frnd.dev