Startseite
Podcasts
KI Espresso Podcast
Blackbox vor Gericht: Darf KI Beweise vorsortieren?

Blackbox vor Gericht: Darf KI Beweise vorsortieren?

KI Espresso vor 4 Monaten

0:00

6:46

30 Terabyte Daten, rund 300 Asservate, eine Blackbox - und daraus
soll ein faires Verfahren werden.

Im Prozess gegen Daniela Klette wird eine größere Frage sichtbar:
Wenn KI-Software Beweise vorsortiert, bleibt das noch ein
Ermittlungswerkzeug, oder wird die Blackbox Teil der Beweiskette?

In dieser KI-Espresso-Debatte geht es um Cellebrite Pathfinder,
das LKA Niedersachsen, 300 Datenträger, Automation Bias,
Waffengleichheit und die Frage, was Karlsruhe 2023 zur
automatisierten Polizeidatenanalyse schon vorgezeichnet hat.

Kapitel:

00:00 - 30 Terabyte Daten, 300 Asservate, eine Blackbox

00:26 - Warum Ermittler ohne KI in Daten ersticken

01:03 - Die Datenmenge: 6 Millionen Handyfotos

01:47 - Pathfinder als Filter, nicht als Richter?

02:19 - Vorselektion ist Ermittlungsmacht

02:53 - Der Mensch am Bildschirm

03:26 - Automation Bias und kognitive Ermüdung

04:00 - Quellcode, Geschäftsgeheimnis, Verteidigung

04:33 - Bundesverfassungsgericht 2023

05:06 - EU AI Act und Hochrisiko-Kontext

05:40 - Was Waffengleichheit im Strafprozess verlangt

06:32 - Die offene Frage: Werkzeug oder Kontrollproblem?

Quellen:

Golem:
https://www.golem.de/news/fragwuerdige-ki-im-klette-prozess-blackbox-im-gerichtssaal-2605-208718.html

nd-aktuell:
https://www.nd-aktuell.de/artikel/1189785.raf-prozess-kommissarin-computer-gegen-daniela-klette.html

Bundesverfassungsgericht, Urteil vom 16.02.2023:
https://www.bverfg.de/e/rs20230216_1bvr154719.html

EU AI Act:
https://eur-lex.europa.eu/eli/reg/2024/1689/oj?locale=en

Cellebrite Pathfinder:
https://cellebrite.com/en/products/pathfinder/

Tagesschau:
https://www.tagesschau.de/inland/prozessbeginn-ex-raf-terroristin-klette-100.html

Video: https://youtu.be/FvRyqqckmAU