Die peinlichsten KI-Pannen: Warum Kontrolle wichtiger ist als Hype

In dieser Folge nehmen Lars und Dag die kuriosesten, lustigsten
und lehrreichsten KI-Fails unter die Lupe. Von unkontrollierten
Bestellsystemen über halluzinierende Anwälte bis hin zu Deepfakes
prominenter Persönlichkeiten, die Realität zeigt: KI kann viel,
aber ohne menschliche Kontrolle wird es teuer. Und manchmal auch
ziemlich absurd.


Fragehagel


Was wäre das Schlimmste, wenn eine KI deinen Job einen Tag
übernimmt? Welche KI-Anwendung würdest du sofort abschalten, wenn
du einen roten Notausknopf hättest? Welcher KI-Hype der letzten
Jahre hat dich am meisten enttäuscht? Und: Wie groß ist die
Chance, dass heute irgendwo eine KI gefailt hat?


Tool der Woche


Dag bringt Gemini Omni mit - das neue Any-to-Any-Modell von
Google DeepMind, das Text, Bild, Sound und Video in einem System
versteht und erzeugt.


Lars stellt Browse AI vor, ein No-Code-Tool zum Scrapen von
Webdaten ohne Programmierkenntnisse, sowie Oboe, eine
KI-Lernplattform für individuelle Kurse, Tests und Lernkarten.


News


N8N ist die wertvollste deutsche KI-Firma geworden, nachdem SAP
eingestiegen ist. Andrej Karpathy wechselt von OpenAI zu
Anthropic und leitet das Pre-Training-Team. Anthropic liegt bei
Geschäftskunden inzwischen vor OpenAI. Google relativiert die
Bedeutung von AEO/GEO: SEO bleibt weiterhin King für AI
Overviews. Anthropic schreibt erstmals schwarze Zahlen. Uvm...


Hauptthema: Die peinlichsten KI-Pannen


Lars und Dag tauchen in die Welt der kuriosen KI-Fails ein. Von
lustigen Pannen bis zu ernsthaften Lektionen. Echte Fälle aus der
Praxis zeigen, was passiert, wenn KI ohne ausreichende Kontrolle
läuft: Bestellsysteme, die außer Rand und Band geraten,
Halluzinationen vor Gericht, Chatbots, die Rabatte erfinden, und
Deepfakes prominenter Persönlichkeiten. Dazu die große Frage: Wer
haftet eigentlich, wenn ein KI-System falsche Versprechen macht?


Links


Browse AI: https://www.browse.ai/


Oboe: https://oboe.com/


Gemini Omni: https://gemini.google.com/