Startseite
Podcasts
Mensch, Maschine, Mindshift - KI Podcast für die neue Welt Podcast
KI-Sicherheitsexpertin: „Es muss erst einen Knall geben"

KI-Sicherheitsexpertin: „Es muss erst einen Knall geben"

Mensch, Maschine, Mindshift - KI Podcast für die neue Welt vor 3 Wochen

0:00

54:02

️ Du willst Inken Paland live erleben und die wichtigsten Tipps
für einen sicheren Umgang mit KI mitnehmen? Dann komm zur
Neulandpro Connect am 16. & 17. Oktober 2026 in Berlin. 50
Speaker und das beste KI-Netzwerk im DACH-Raum Tickets:
https://connect.neulandpro.com/

Wie gefährlich ist KI wirklich – und was davon betrifft dich
schon heute? KI-Sicherheitsexpertin Inken Paland erklärt, warum
sie nach einer Phase der Panik heute ruhiger ist und warum sie
trotzdem glaubt, dass es erst einen „Knall" geben muss, bevor die
großen KI-Labs bremsen. Wir sprechen über Alignment, AGI und das
KI-Wettrennen zwischen den USA und China, über den EU AI Act und
über die Gefahren, die schon heute real sind: offene Modelle ohne
Guardrails und KI-gestützte Cyberangriffe auf Unternehmen. Dazu
gibt Inken konkrete Tipps, wie Unternehmen und Einzelpersonen KI
sicher nutzen, vom hybriden Ansatz mit lokaler KI bis zur Frage,
wie wir mündig bleiben, statt uns schleichend zu entmachten.

Erwähnt in der FolgeNeulandpro Connect:
https://connect.neulandpro.com/

KI-Risiken im Überblick: https://kibeunruhigtmich.de/

Inkens digitaler Garten (Ressourcen &
Sicherheitschecklisten): https://vely.ai/

Lokale KI-Tools: Ollama, LM Studio, Jan AI

Inken Parland

Instagram: https://www.instagram.com/askinkenai/

LinkedIn: https://www.linkedin.com/in/inken-paland/

️ Zeitstempel

00:00 Intro

01:17 Was macht dich bei der KI-Entwicklung am nervösesten?

03:12 Kündigungen in den KI-Labs & der Hugging-Face-Vorfall

04:43 Gefangen in der San-Francisco-Bubble

06:41 „Wie bringt KI uns eigentlich um?"

07:41 10 % Aussterberisiko? Die realere Gefahr

09:27 Offene Modelle ohne Guardrails

11:32 Die Stufen der KI: von Chatbot bis Superintelligenz

14:31 Neulandpro Connect – 16. & 17. Oktober in Berlin

15:36 Alignment: Warum es so schwer ist

18:17 Warum AGI nicht das Ziel sein sollte

20:07 Die Grenzen der Transformer-Modelle

22:17 Wirtschaft, Trump & das KI-Wettrennen

23:09 Muss es erst einen Knall geben?

24:05 Die fehlende Perspektive von China

25:41 Braucht Forschung überhaupt AGI?

27:46 EU AI Act: der richtige Weg?

30:25 „Wer langsam ist, verliert" – was denn?

32:49 Unternehmenssicherheit: Cyberangriffe mit KI

35:23 Lokale KI & der hybride Ansatz

39:10 So überzeugst du deinen Chef, in Cybersecurity zu
investieren

41:02 Ist lokale KI automatisch sicher?

43:49 Mitarbeitende schulen & sichere Schnittstellen

46:05 Schleichende Entmachtung durch KI

48:46 Tipps für den sicheren KI-Alltag

52:26 Inkens Keynote auf der Neulandpro Connect

54:17 Wo du Inken findest