Startseite
Podcasts
KI:nnected - KI zum Mitreden Podcast
Die peinlichsten KI-Pannen: Warum Kontrolle wichtiger ist als Hype

Die peinlichsten KI-Pannen: Warum Kontrolle wichtiger ist als Hype

KI:nnected - KI zum Mitreden vor 4 Monaten

0:00

1:11:42

In dieser Folge nehmen Lars und Dag die kuriosesten, lustigsten
und lehrreichsten KI-Fails unter die Lupe. Von unkontrollierten
Bestellsystemen über halluzinierende Anwälte bis hin zu Deepfakes
prominenter Persönlichkeiten, die Realität zeigt: KI kann viel,
aber ohne menschliche Kontrolle wird es teuer. Und manchmal auch
ziemlich absurd.

Fragehagel

Was wäre das Schlimmste, wenn eine KI deinen Job einen Tag
übernimmt? Welche KI-Anwendung würdest du sofort abschalten, wenn
du einen roten Notausknopf hättest? Welcher KI-Hype der letzten
Jahre hat dich am meisten enttäuscht? Und: Wie groß ist die
Chance, dass heute irgendwo eine KI gefailt hat?

Tool der Woche

Dag bringt Gemini Omni mit - das neue Any-to-Any-Modell von
Google DeepMind, das Text, Bild, Sound und Video in einem System
versteht und erzeugt.

Lars stellt Browse AI vor, ein No-Code-Tool zum Scrapen von
Webdaten ohne Programmierkenntnisse, sowie Oboe, eine
KI-Lernplattform für individuelle Kurse, Tests und Lernkarten.

News

N8N ist die wertvollste deutsche KI-Firma geworden, nachdem SAP
eingestiegen ist. Andrej Karpathy wechselt von OpenAI zu
Anthropic und leitet das Pre-Training-Team. Anthropic liegt bei
Geschäftskunden inzwischen vor OpenAI. Google relativiert die
Bedeutung von AEO/GEO: SEO bleibt weiterhin King für AI
Overviews. Anthropic schreibt erstmals schwarze Zahlen. Uvm...

Hauptthema: Die peinlichsten KI-Pannen

Lars und Dag tauchen in die Welt der kuriosen KI-Fails ein. Von
lustigen Pannen bis zu ernsthaften Lektionen. Echte Fälle aus der
Praxis zeigen, was passiert, wenn KI ohne ausreichende Kontrolle
läuft: Bestellsysteme, die außer Rand und Band geraten,
Halluzinationen vor Gericht, Chatbots, die Rabatte erfinden, und
Deepfakes prominenter Persönlichkeiten. Dazu die große Frage: Wer
haftet eigentlich, wenn ein KI-System falsche Versprechen macht?

Links

Browse AI: https://www.browse.ai/

Oboe: https://oboe.com/

Gemini Omni: https://gemini.google.com/