Blackbox vor Gericht: Darf KI Beweise vorsortieren?

30 Terabyte Daten, rund 300 Asservate, eine Blackbox - und daraus
soll ein faires Verfahren werden.


Im Prozess gegen Daniela Klette wird eine größere Frage sichtbar:
Wenn KI-Software Beweise vorsortiert, bleibt das noch ein
Ermittlungswerkzeug, oder wird die Blackbox Teil der Beweiskette?


In dieser KI-Espresso-Debatte geht es um Cellebrite Pathfinder,
das LKA Niedersachsen, 300 Datenträger, Automation Bias,
Waffengleichheit und die Frage, was Karlsruhe 2023 zur
automatisierten Polizeidatenanalyse schon vorgezeichnet hat.


Kapitel:
00:00 - 30 Terabyte Daten, 300 Asservate, eine Blackbox
00:26 - Warum Ermittler ohne KI in Daten ersticken
01:03 - Die Datenmenge: 6 Millionen Handyfotos
01:47 - Pathfinder als Filter, nicht als Richter?
02:19 - Vorselektion ist Ermittlungsmacht
02:53 - Der Mensch am Bildschirm
03:26 - Automation Bias und kognitive Ermüdung
04:00 - Quellcode, Geschäftsgeheimnis, Verteidigung
04:33 - Bundesverfassungsgericht 2023
05:06 - EU AI Act und Hochrisiko-Kontext
05:40 - Was Waffengleichheit im Strafprozess verlangt
06:32 - Die offene Frage: Werkzeug oder Kontrollproblem?


Quellen:
Golem:
https://www.golem.de/news/fragwuerdige-ki-im-klette-prozess-blackbox-im-gerichtssaal-2605-208718.html

nd-aktuell:
https://www.nd-aktuell.de/artikel/1189785.raf-prozess-kommissarin-computer-gegen-daniela-klette.html

Bundesverfassungsgericht, Urteil vom 16.02.2023:
https://www.bverfg.de/e/rs20230216_1bvr154719.html
EU AI Act:
https://eur-lex.europa.eu/eli/reg/2024/1689/oj?locale=en
Cellebrite Pathfinder:
https://cellebrite.com/en/products/pathfinder/
Tagesschau:
https://www.tagesschau.de/inland/prozessbeginn-ex-raf-terroristin-klette-100.html


Video: https://youtu.be/FvRyqqckmAU