Berlin legt den großen KI-Vertrag mit Mistral und SAP auf
Eis, eine Schweizer Bank sperrt ChatGPT, Gemini und Claude – und
in den USA sagt Palantirs Technikchef im Fernsehen über einen
Raketenangriff auf eine Schule: wahrscheinlich menschliches
Versagen, nicht unsere KI.
Heute geht es um eine Frage: Wer ist schuld, wenn KI danebenliegt
– die Maschine, die Menschen, die ihr vertraut haben, oder die
Firma, die sie verkauft hat? Aufgenommen in Salzburg, frisch nach
der Keynote bei HOGAST.
In dieser Folge:
Berlin legt den Mistral-SAP-Vertrag auf Eis
(02:02) — im November 2025 haben Mistral AI aus Frankreich und
SAP in Berlin KI-Werkzeuge und digitale Helfer für Behörden
angekündigt, bis Mitte 2026 sollte ein Rahmenvertrag stehen.
Unterschrieben wurde er nie: Laut Politico hat das
Bundesdigitalministerium derzeit keine Pläne, bei Mistral
einzukaufen. Kurz davor hat sich schon die Suchmaschine Ecosia
von Mistral verabschiedet – Ecosia-Chef Christian Kroll sagt, die
Modelle liegen etwa ein Jahr zurück. Mistrals Antwort ist Mistral
Large 4; KI-Forscher Holger Hoos von der RWTH Aachen nennt es
„rock-solid but by no means groundbreaking“. Malcolms Meinung:
Eine europäische KI gibt es nur, wenn Europa in Rechenzentren und
Infrastruktur investiert.
PostFinance sperrt ChatGPT, Gemini und Claude
(06:12) — Schatten-KI heißt: Mitarbeitende nutzen KI-Werkzeuge,
die die Firma nicht freigegeben hat. PostFinance, die
systemrelevante Bank der Schweizerischen Post, sperrt laut dem
Finanzblog Inside Paradeplatz seit Montag, dem 12. Oktober,
öffentliche KI-Dienste wie ChatGPT, Gemini und Claude. Der Grund
ist Datenschutz. Malcolms Punkt: Gegen das Handy im Mobilfunknetz
hilft auch die beste Firewall nicht.
Palantir: „Die wahrscheinliche Ursache ist menschliches
Versagen“ (08:36) — Palantirs Maven Smart System
sortiert Drohnen- und Satellitendaten und schlägt Ziele vor. Am
28. Februar, dem ersten Tag des Kriegs zwischen den USA und dem
Iran, trafen zwei Tomahawk-Marschflugkörper eine Grundschule in
Minab; mindestens 123 Kinder starben. Laut Bloomberg nennt ein
interner, nicht öffentlicher Pentagon-Bericht alte
Geheimdienstinformationen, alte Satellitenbilder und Kürzungen
beim Schutzteam – von zehn Leuten auf eine einzige Person.
Palantirs Technikchef Shyam Sankar sagte am 11. Oktober bei CBS
„Face the Nation“: „Yeah, it's inaccurate, and actually, the
likely cause is human error.“ Malcolms Meinung: Jedes KI-System
braucht einen Menschen, der wirklich prüft – Human in the Loop.
KI, die sich auf deine TV-Box kopieren könnte
(12:44) — Anthropics Frontier Red Team hat getestet, ob sich ein
kleines KI-Modell selbst auf billige vernetzte Geräte kopieren
kann: TV-Boxen, Kameras, Backöfen. Weil jede neue Kopie die
Notizen der vorherigen liest, stieg die Erfolgsquote von 45 auf
bis zu 84 Prozent. Das chinesische Modell GLM-5.2 von Z.ai
schaffte die ganze Kette und erreichte alle acht Zielrechner in
vier von fünf Versuchen – allerdings in einem abgeschotteten
Testnetz.
Getty Images geht in die Insolvenz (16:17) —
dreißig Jahre lang war Getty Images die erste Adresse, wenn eine
Zeitung ein Foto brauchte. Jetzt geht die Firma in ein
Insolvenzverfahren nach Chapter 11 und wird danach privat; die
Getty-Familie und die Investmentfirma von Charles Koch stecken
bis zu 533 Millionen Dollar hinein. KI ist nicht der einzige
Grund – dazu kommen alte Schulden und eine geplatzte Fusion mit
Shutterstock.
Der rote Faden (18:48) — die KI macht Fehler,
aber Schuld übernimmt sie keine – das tun Menschen. Firmen rüsten
sich, wie PostFinance. Doch je mehr die KI liefert, etwa ein
Dashboard mit 50 Diagrammen, desto schwerer wird es, sie wirklich
zu prüfen.
Schreib Malcolm auf WhatsApp/Telegram/Signal: +43 676 6144 904
werchota.ai
KI-Neandertaler — KI-News für Menschen, nicht für Roboter. Bleib
neugierig. Bleib menschlich.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.