podcast.de
Anmeldung
Anmeldung Registrierung
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. CISPA TL;DR - Der Podcast über KI- und IT-Sicherheitsforschung Podcast

Episoden

#50 Multi-Agent AI Systems with Samira Abedini

36 Minuten
AI learns from us—including how we communicate, argue and persuade each other. So what happens when AI agents start talking to each other? CISPA researcher Samira Abedini and her colleagues found that one stubborn and persuasive agent can sometimes convince an entire group to adopt a wrong answer. She explains how a model originally developed to describe human opinion formation can surprisingly well explain how LLM agents influence each other—and where we can already find multi-agent AI systems in the real world today. Read the full paper: https://publications.cispa.de/articles/conference_contribution/Don_t_Trust_Stubborn_Neighbors_A_Security_Framework_for_Agentic_Networks/32771607?file=65793867

#49 Radioaktive Wasserzeichen für KI-Bilder mit Louis Kerner

27 Minuten
Was passiert, wenn KI-Modelle zunehmend auf Inhalten trainieren, die selbst von KI erzeugt wurden? Forschende befürchten, dass die Modelle dadurch langfristig an Qualität verlieren könnten. Dieses Phänomen wird auch als „Model Collapse“ bezeichnet. In dieser Folge von CISPA TL;DR spricht CISPA-Forscher Louis Kerner mit uns über BitMark: ein neu entwickeltes Wasserzeichen für KI-generierte Bilder, das selbst dann noch nachweisbar sein kann, wenn andere KI-Modelle später auf diesen Bildern trainiert wurden. Warum die Forschenden dabei von „radioaktiven“ Wasserzeichen sprechen, wie BitMark funktioniert und weshalb solche Ansätze für die Zukunft generativer KI relevant sein könnten, erfahrt ihr in dieser Folge.

#48 The Social Media Platform of the Future with Jane Im

47 Minuten
Social media connects us – but who is really in control? Algorithms decide what we see, platforms decide how we interact, and users often have less control than they'd like to. But it doesn’t have to be that way. In this episode, CISPA researcher Jane Im talks about how we could redesign social media platforms to give users more agency, create healthier online communities, and rethink how social media should be funded in the future.

#47 Zertifizierung und das Monitoring von Drohnen mit Jan Baumeister

32 Minuten
Von einem spezialisierten Techthema haben sich Drohnen zu einer wichtigen Zukunftstechnologie entwickelt, die zahlreiche Standards erfüllen muss, darunter auch vielfältige Sicherheitsfunktionen. Für einen sicheren Drohnenflug müssen alle Systeme zuverlässig funktionieren. Deshalb werden die Komponenten nicht nur während des Flugs überwacht, sondern bereits in der Entwicklungsphase – lange bevor eine Zertifizierung erfolgt. Der CISPA-Forscher Jan Baumeister erklärt im Podcast, welche Drohnentypen es gibt, wie und warum sie zertifiziert werden und wie das von ihm mitentwickelte Tool RTLola beim Monitoring von Drohnenflügen unterstützt. Außerdem gibt er Einblicke in seine Zeit als PhD am CISPA.

#46 Fairness and Representation in AI with Tẹjúmádé Àfọ̀njá

1 Stunde 2 Minuten
From job applications to loan approvals, AI systems are increasingly being explored and deployed in decisions that shape people’s lives. But what happens when these systems learn from biased data? Can they ever be truly fair? In this episode, CISPA researcher Tẹjúmádé Àfọ̀njá unpacks why more accurate predictions in a model don’t automatically mean fairer outcomes, why representation in AI and machine learning matters, and why it’s not only important how AI systems are built – but also by whom. Read Tẹjúmádé's full papers here: Paper on loan approvals: https://aclanthology.org/anthology-files/pdf/findings/2025.findings-emnlp.947.pdf Paper on World Wide Dishes: https://dl.acm.org/doi/full/10.1145/3715275.3732019 More about her and her research: https://tejuafonja.com
Alle Folgen ansehen (56)
In Podcasts werben
Schalte jetzt Werbung in Podcasts.

Über diesen Podcast

Wie sicher ist das Web? Welchen Einfluss hat der Faktor Mensch auf die Sicherheit von Computersystemen? Welche Potenziale birgt künstliche Intelligenz und welchen Risiken stehen wir damit gegenüber? In TL;DR ("Too Long; Didn't Read"), dem ersten CISPA-Podcast, sprechen wir jeden Monat mit Forscher:innen über ihre Arbeiten zu Cybersicherheitsthemen und künstlicher Intelligenz – und versuchen ihnen genau die Fragen zu stellen, die sich die Hörer:innen auch stellen. Das CISPA Helmholtz-Zentrum für Informationssicherheit ist eine nationale Forschungseinrichtung des Bundes innerhalb der Helmholtz-Gemeinschaft. Seinen Hauptsitz hat das CISPA in Saarbrücken, im Herzen Europas. Da am Zentrum Menschen aus 43 Nationen arbeiten, findet ihr im Feed Gespräche auf Deutsch und Englisch.
Webseite
CISPA TL;DR Podcast
Urheberangabe
CISPA
Durchschnittliche Länge
Ø 39 Min.
Erscheinungsweise
Monatlich
Letzter Check
vor 6 Std.
Zuerst veröffentlicht
vor 4 J.

Abonnenten

Teilen