Startseite
Podcasts
OFF LIMITS Tech Talk Podcast
OFF LIMITS Tech Talk #44: KI-Agenten, digitaler Führerschein & Open-Source-Modelle

OFF LIMITS Tech Talk #44: KI-Agenten, digitaler Führerschein & Open-Source-Modelle

OFF LIMITS Tech Talk vor 4 Tagen

0:00

38:39

KI-Agenten suchen automatisiert nach Schwachstellen in
Onlineshops, Phishing wird überzeugender und bekannte
Betrugsmaschen lassen sich in deutlich größerer Masse ausspielen.
Christian und Daniel sprechen darüber, weshalb technische
Schutzmaßnahmen allein nicht ausreichen und warum auch die Nutzer
weiterhin ein entscheidender Faktor bleiben.

Brauchen wir deshalb einen digitalen Führerschein? Die beiden
diskutieren, welche Rolle Schulen, Eltern und Unternehmen bei der
Vermittlung von Medienkompetenz übernehmen sollten. Dabei geht es
auch um unterschiedliche Anforderungen für Kinder, Eltern,
Online-Banking und den alltäglichen Umgang mit Smartphones.

Noch technischer wird es beim Blick auf KI-Agentenschwärme. Am
Beispiel des Hugging Face-Vorfalls diskutieren Christian und
Daniel, wie Agenten Aufgaben lösen, Informationen untereinander
teilen und dabei Wege einschlagen können, die von den
Verantwortlichen nicht vorgesehen waren. Die entscheidende Frage
lautet, wie solche Systeme überwacht werden müssen und wer dafür
die Verantwortung trägt.

Zum Abschluss geht es um Gwen Image 2.1, Gwen 4, Open Weights und
die Entwicklung spezialisierter, ressourcenschonender Modelle.
Gleichzeitig sprechen die beiden über fehlende Guardrails,
mögliche Risiken und die Frage, wie sich Unternehmen künftig
gegen KI-gestützte Angriffe verteidigen können.