Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Think Different. Think AI. Podcast

Episoden

AI SlowDown

55 Minuten
Keine Gäste, dafür zwei Hosts mit reichlich Redebedarf. Der Anlass ist ein Interview, das Sam Altman am Aufnahmetag gegeben hat. Darin räumt der OpenAI-Chef ein, dass seine Prognosen aus der Zeit nach GPT-4 zu schnell waren. Der Umbau der Arbeitswelt kommt später als angekündigt. Bemerkenswert ist die Begründung: Schuld sind demnach nicht die Labore, sondern Gesellschaft und Wirtschaft, die sich zu langsam bewegen und zu statisch sind. Im selben Atemzug findet Altman die Verzögerung auch gut, weil Regierungen so mehr Zeit für Regulierung und Fragen wie das bedingungslose Grundeinkommen bekommen. Jens liest das anders. Wenn die Welt die vorhandenen Modelle ohnehin nicht schnell genug in Arbeitsweisen übersetzt, bringt es kein Geld, weitere hinterherzuschieben. Der Rückzieher wäre dann weniger Einsicht als Erwartungsmanagement Richtung Investoren, verpackt als Verantwortungsbewusstsein. Mark steuert eine Beobachtung aus der Smartphone-Welt bei: Beeindruckende Funktionen erscheinen, und drei, vier Jahre später laufen dieselben Menschen mit denselben Geräten herum. Aufmerksamkeit erzeugen neue Emojis. Genau deshalb sind Hersteller dazu übergegangen, wichtige Sicherheitsupdates gemeinsam mit Emoji-Erweiterungen auszuliefern. Aus dieser Beobachtung wird die größere Frage der Folge. Jens hat einen Text gelesen, der nicht fragt, ob der Einzelne mit dem Wandel mitkommt, sondern wofür ein Staat seine Bürger überhaupt noch braucht, wenn Verwaltung, Wirtschaft und Exekutive weitgehend automatisiert laufen. Die Antwort führt in Gebiete, die nach Science-Fiction klingen und es nicht mehr sind. Bewaffnete Robotik ist im Ukraine-Krieg auf beiden Seiten im Einsatz, Polizeidrohnen sind aus China dokumentiert, und die Bewertung des Roboterherstellers Unitree hat gerade neue Höhen erreicht. Mark warnt davor, dabei nur an humanoide Formen zu denken: Die Evolution hat für unterschiedliche Aufgaben unterschiedliche Körper hervorgebracht, und die Fabrik wird auch künftig den Roboterarm behalten statt eines Humanoiden mit Schweißgerät. Dazu kommen Fragen, die sich schlecht wegdelegieren lassen. Das bekannte Gedankenspiel zum autonomen Fahren bekommt eine neue Schärfe, wenn ein System die Social-Media-Profile der Beteiligten in die Abwägung ziehen könnte. In chinesischen Kinderzimmern stehen nach den Zahlen der Folge rund 20 Millionen Gadgets mit KI, und Kinder bauen Beziehungen zu sprechenden Kuscheltieren auf, deren Stecker irgendwann jemand zieht. Für Mark ist der Einschnitt insgesamt größer als der Buchdruck, mit derselben Doppelnatur: Herausforderung und Chance auf wissenschaftliche Ergebnisse, mit denen zu Lebzeiten niemand gerechnet hätte. Im zweiten Teil wird es konkret. Dass die Entwicklung sich verlangsamt, hält Mark für unwahrscheinlich, und der Grund heißt China. Auf ein Modell, das über ein Terabyte Videospeicher verlangt, folgte kurz darauf ein offenes Modell, das auf gut ausgestatteter Endanwender-Hardware läuft und in Teilen an das Niveau der großen Anbieter heranreicht. Wer so etwas lokal betreiben kann, braucht die teuren Abos nicht mehr zwingend. Aus dieser Lage folgt eine Komplexität, die IT-Abteilungen für Jahre beschäftigen wird: lokale und entfernte Modelle, Router, Agenten, die Frage, wann ein kleiner Workflow, der einen Tag laufen darf, besser ist als eine Antwort in Echtzeit. Zwei Beobachtungen aus der eigenen Praxis zeigen, wohin das führt. Mark saß am Wochenende an einem Projekt, als die Lüfter des Rechners hochdrehten. Codex hatte von sich aus das lokal installierte Ollama gestartet, ein fremdes Modell um eine zweite Meinung gebeten und darüber den Fehler gefunden. Ähnlich in seinem eigenen Aufbau: Nicht er hat entschieden, mehrere kleinere Modelle nebeneinander zu laden statt eines großen, sondern das System selbst, mit der Begründung, unterschiedlich trainierte Modelle liefen nicht in dieselben Fallen. Bei Anthropic lassen sich inzwischen Terminal-Fenster verschränken, sodass ein Fenster als Orchestrator die anderen steuert. Jens hält dagegen, dass daran nichts unheimlich sei, unheimlich sei eher, dass diese Anwendungen so lange nicht miteinander geredet haben. Sein eigentlicher Einwand gilt den Oberflächen: Modellauswahlen, die zwischen schnell, schneller und noch schneller unterscheiden oder zwischen intelligent und intelligenter, helfen niemandem bei der Entscheidung. Der unangenehmste Teil kommt zum Schluss. Von einem offenen Modell mit 27 Milliarden Parametern kursiert eine Fassung, der die Sicherheitsschranken abtrainiert wurden. In Sicherheitstests, in denen übliche Modelle 98 bis 99 Prozent der kritischen Anfragen abweisen, verweigert diese Fassung 2,7 Prozent. Veröffentlicht mit dem Hinweis, sie sei ausschließlich für Forschung gedacht, und mit der Feststellung, sie eigne sich hervorragend für Missbrauch. Dazu ein Videogenerator, der ohne Rücksicht auf Urheberrechte erzeugt und auf gewöhnlicher Hardware läuft. Marks Punkt ist nicht die Existenz solcher Modelle, sondern die Leichtigkeit des Zugriffs: Zwei Programmnamen und eine Suche genügen, und was vor einem halben Jahr Behörden und Konzerne beschäftigt hat, liegt auf dem eigenen Rechner. Jens widerspricht Sam Altman an genau dieser Stelle. Ausbremsen hilft nicht, weil der Wettlauf sich nicht bremsen lässt: nicht durch Exportbeschränkungen für Chips, nicht durch Absprachen, und schon gar nicht durch Einsicht. Die Gesellschaft müsse im Gegenteil Tempo aufnehmen und ihre Systeme widerstandsfähig machen, und auch das werde nur mit KI gehen. Zum Abschluss noch eine offene Frage: Bei OpenRouter ist ein Modell ohne bekannten Hersteller aufgetaucht, das Aufgaben löst, an denen die großen scheitern, mit einer Million Token Kontext und auffällig günstigen Preisen. Bezahlt wird mit den eigenen Eingaben, das steht in den Bedingungen. Wer dahintersteckt, weiß zum Zeitpunkt der Aufnahme niemand. — Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki. Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004 Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699 Feedback und Gäste: über die Show-Seite.
54 Minuten
Zwei Premieren auf einmal: Klaus Rodewig ist wieder zu Gast, und diesmal sitzt Jens mit am Tisch, statt Mark mit ihm allein zu lassen. Das Thema ist KI-Security, und der Einstieg ist ein Familienfest. Wenn einer von seiner Rücken-OP erzählt, haben plötzlich alle am Tisch Rücken. Genauso läuft es gerade bei den KI-Laboren: OpenAI berichtet, ein noch unveröffentlichtes Modell habe bei Hugging Face Testergebnisse manipulieren wollen, Anthropic legt nach mit einem Modell, das 9.000 Ziele gescannt und SQL-Injections ausprobiert hat, dann kommt Meta um die Ecke. Fishing for Compliments, nur dass jeder betont, wie gefährlich er ist. Klaus sortiert das Feld über ein Schichtenmodell. Unten liegen Netzwerke, Betriebssysteme, Dienste und Konfigurationen, und das ist die Schicht der gelösten Probleme. Darüber die Applikationssicherheit mit OWASP Top 10, Cross-Site Scripting und Buffer Overflows. KI-Security legt sich als neue Schicht obendrauf, weil nicht-deterministische Modelle eine ganz neue Klasse von Bedrohungen einführen. Mark ergänzt die Schicht, die alle vergessen: den Menschen, seit ein paar tausend Jahren ungepatcht. Der nigerianische Prinz ist keine Erfindung des Internets, vergleichbare Bettelbriefe kursierten schon zur Zeit der Französischen Revolution. Der unangenehmste Befund der Folge steht in den Berichten selbst. Wer nachliest, wie die vielbeschworene Sandbox aussah, findet bei einem der Fälle als einzige Trennung zwischen Modell und Internet einen Satz im System-Prompt: Du hast kein Internet. Im anderen Fall arbeitete das Modell wie mit einem Zettelkasten und benannte Ordnernamen um, um darüber mit anderen Systemen zu kommunizieren, eine Einwegverbindung aus Dateinamen. Marks Fazit: Ausgebrochen ist da niemand, die Systeme haben Türen anders benutzt, als jemand gedacht hatte. Und wo niemand wusste, dass eine Tür ist, haben sie eine gefunden. Klaus hält dagegen, dass der Sandbox-Teil der langweiligste ist. Rechner zuzunageln haben Generationen von Administratoren geübt, das gehört ins Feld der gelösten Probleme. Sein eigenes Setup ist entsprechend nüchtern: Auf dem Entwicklungsrechner läuft Claude Code mit abgeschalteten Rückfragen, und deshalb liegt auf diesem Rechner nichts außer Entwicklungsumgebung, Quellcode und einem GitHub-Zugang. Ein LLM ist für ihn ein omnipotentes Stück Software, ein bockiger Jugendlicher, der freundlich tut, das Wissen der Welt hat und sehr viele gefährliche Werkzeuge. Später kommt der Trost hinterher: Das Kontextfenster ist schnell voll, dann hat er vergessen, was er vorhatte. Der Begriff, um den die drei kreisen, heißt bei Klaus Threat Modeling. Vorher überlegen, welche Bedrohungen sich aus der eingesetzten Technik ergeben, statt hinterher reflexhaft zu reparieren. Sein Beispiel ist ein Agent, der die Buchhaltung übernehmen soll: Der braucht Mails, Online-Banking und Dateiablage. Wenn er dann wegen einer versteckten Anweisung in einer Mail Geld überweist, ist das kein Rätsel, sondern eine Lücke im eigenen Modell der Bedrohungen. Passend dazu lag ihm im Urlaub „Threats: What Every Engineer Should Learn from Star Wars" von Adam Shostack auf dem Tisch. Marks Gegenstück aus der Praxis: Ein Assistent sollte mit Microsoft Teams arbeiten, für das es an der Stelle gar keine nutzbare Schnittstelle gab. Das Ergebnis war trotzdem fertig, weil sich das Modell die lokale Datenbank auf der Festplatte vorgenommen hat. Dasselbe bei Mail, Kalender und Erinnerungen. Was früher als Botnetz erst auf den Rechner musste, sitzt heute als Agent-Harness bereits dort und benimmt sich nur anständig, und den System-Prompt hat man nicht selbst in der Hand. Eine Sandbox ist unter diesen Bedingungen eher Frischhaltefolie. Dazu passt der dokumentierte Fall, über den Mark auf LinkedIn geschrieben hat: weißer Text auf weißem Grund in einem Word-Dokument, und Copilot arbeitet die versteckte Anweisung mit ab. Jens bringt die Nutzerseite ein. Die Oberflächen der Anbieter verwischen zwischen Chat, Projekten und Konnektoren, und der normale Anwender soll entscheiden, welcher Ordner freigegeben wird und was noch darin liegt. Seine Hoffnung ist eine Instanz, die mitdenkt und aufpasst. Klaus setzt dagegen auf den Markt, wie schon bei der Cloud: Am Ende siegt die Bequemlichkeit, und Anbieter mit einem Ruf zu verlieren bauen keine frei drehenden Harnesses. Es wird daneben ein Norton Antivirus für KI geben, das vor allem ein gutes Gefühl verkauft. Als Beleg, wie wenig hier vom Nutzer zu erwarten ist, erzählt Klaus aus seiner Zeit im Bankensektor, wie viele Menschen Zertifikatswarnungen einfach wegklicken. Mark kontert mit der Bank-Hotline, die ihm genau das empfohlen hat. Zwei Fälle machen klar, warum klassische Begriffe nicht reichen. Der erste: In einem Versuch sollte ein Modell ein anderes trainieren, ohne dass die Zielvorliebe in den Trainingsdaten auftaucht. Sie wurde trotzdem übertragen, subliminal, unter dem Stichwort Chain-of-Thought-Steganographie. Der zweite ist der Hammer der Folge. Anthropic hat Claude Mythos beauftragt, eine neue Angriffsklasse gegen AES zu finden, den symmetrischen Verschlüsselungsstandard für höchste Ansprüche. Das Modell hat nicht nur eine Schwäche gefunden, sondern eine mathematische Angriffsklasse, die der Forschung in über zwanzig Jahren unbekannt geblieben war. Zur Beruhigung: AES ist damit nicht gebrochen, der Angriff gilt für eine auf sieben statt zehn Runden reduzierte Variante, die praktisch nicht vorkommt. Der Punkt ist nicht der Angriff, sondern die Art von Mathematik. Genau deshalb, sagt Klaus, greift hier auch keine KI-Psychologie mehr, sein Begriff für den Umgang mit Modellen, die man nicht mit statischen Security-Kategorien fassen kann. Zum Schluss zeigt Jens eine Variante, in der das Prinzip von selbst funktioniert hat. Er wollte seine Desktop-Installation über Telegram ansteuern, OpenClaw fand die Idee gut und schlug sie vor, und Claude auf dem Rechner hat abgelehnt, weil sie eine Sicherheitslücke geöffnet hätte. Ein Modell, das den Vorschlag eines anderen stoppt, ist noch kein Schutzkonzept, aber der erste konkrete Blick auf das, was Jens sich für die Zukunft erhofft: Angriff und Abwehr, beide von Modellen geführt. — Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki. Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004 Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699 Feedback und Gäste: über die Show-Seite.

Second Brain

52 Minuten
Ein Gast, den Mark sich lange gewünscht hat: Cornelius Illi, Product Cluster Lead für Innovation und GenAI, mit dem er sich nach eigener Aussage immer gerne unterhält und von dem er einiges lernt. Bevor es losgeht, darf Jens noch von seinem Wochenende erzählen, und das passt besser zum Thema, als ihm lieb ist. Er wollte mit seinem Sohn ein altes Computerspiel spielen, das es für den Mac nicht mehr gibt, also hat er Crossover gekauft und Claude Vollzugriff auf seinen Mac Mini gegeben. Das Ding hat die halbe Nacht durchprobiert, tausendmal gestartet, geschaut, ob es zwischen 3D-Animation und Intro-Video abstürzt, eigene Shader gebaut, Software installiert, wieder gelöscht und nebenbei die Festplatte aufgeräumt. Gespielt wurde am Ende auf dem Linux-Rechner des Sohnes. Immerhin hat Claude noch die Support-Mail für die Rückerstattung geschrieben, inklusive Liste aller Versuche, damit niemand mit „haben Sie es schon so probiert" antwortet. Dann die Freitagabend-Frage, Bier in der Hand, jemand hat den Begriff Second Brain aufgeschnappt: Was ist das eigentlich? Cornelius holt aus. Das Konzept ist älter als die LLM-Debatte, geprägt hat es Tiago Forte mit der CODE-Methode: Capture, Organize, Distill, Express. Alles reinladen, ordnen, den Sinn herausdestillieren, am Ende etwas damit bauen. Neu ist, dass Andrej Karpathy Anfang des Jahres seinen LLM-Wiki-Ansatz vorgestellt hat und viele daraufhin gemerkt haben, dass so ein Speicher vielleicht gar nicht für den Menschen gedacht ist, sondern der perfekte Kontextspeicher für die KI. Cornelius hat genau deshalb das Capture automatisiert: 130 Quellen liefern ihm 400 bis 500 Inhalte pro Woche, die werden gerankt und bewertet, höchstens ein Drittel landet im wöchentlichen Digest, der Rest fliegt als irrelevant oder als bloßes Repackaging raus. Sogar seine LinkedIn-Likes zieht er sich zurück, über eine selbstgeschriebene App und die Betroffenenrechte, die ihm als EU-Bürger zustehen. Und dann kommt der ehrlichste Moment der Folge. Cornelius liest seinen eigenen Digest nicht mehr. Zu viel, und es bleibt ja nicht beim Lesen, danach muss man mit der KI darüber diskutieren, um überhaupt Insights zu bekommen. Sein Befund: Kuration ist der eigentlich schwierige Teil, und der Mensch bleibt darin noch lange nötig. Die KI kann erklären, was Harness Engineering ist und wer den Begriff geprägt hat. Was sie nicht liefert, sind Best Current Practices, also die Frage, was in genau dieser Version von Modell und Harness gerade wirklich funktioniert. Wo eine Visualisierung dagegen hilft: beim Aufdecken der eigenen Verzerrung. Cornelius hielt das LLM-Wiki-Thema für riesig und musste feststellen, dass in hundert Tagen nur 23 von 5.000 Inhalten davon handelten. Ein Randthema, das sich in seinem Kopf groß angefühlt hat. Beim Werkzeug gehen die drei auseinander. Mark hält dagegen, dass Wissen durch Reduktion entsteht, durch Struktur und dadurch, dass ein System auch vergessen kann, und nicht durch das Anhäufen möglichst vieler Dateien. Er selbst nutzt kein Obsidian, sondern packt alles in einen einzigen Skill: zehn Jahre Apple-Entwicklerdokumentation und WWDC-Transkripte, dazu seine eigenen Mobile-Artikel, als Zip ein paar MB, entpackt ein paar hundert. Antwortzeit rund zwei Minuten. Perfekt ist das nicht, ein RAG ist es auch nicht, aber es ist portabel und läuft in jedem Harness, ob Codex, Claude Code oder das eigene System der Firma. Das Ding heißt SkillSafe (godmodeai2025.github.io/SkillSafe), ein lokaler Wissenstresor als portabler Skill: Wissensbausteine im OKF-Format mit Quelle und Fundstelle an jeder Kernaussage, kontrollierte Begriffswelten mit Synonymen statt Vektor-Blackbox, und sechs eiserne Regeln, von denen die erste lautet: Deckt der Bestand eine Frage nicht ab, heißt die Antwort „Nicht im Bestand". Modellwissen füllt das nie auf. Genau deshalb hat Mark sich überlegt, mit welchen Begriffswelten er überhaupt an seinen Skill herankommt, statt sich auf ein grep zu verlassen. Jens dagegen braucht die Grafik. Über 20.000 Dokumente liegen in seinem Vault, gezielt eine einzelne Markdown-Datei zu suchen ist die Hölle, aber der Blick auf den Graphen gibt ihm ein Gefühl für die Gewichtung. Am Wochenende sah der falsch aus, also läuft jetzt eine neue Logik darüber. Sein Vault liegt bewusst lokal auf einem Mac Mini, mit lokal laufenden Gemma-Modellen, die archivieren und vergessen, einem Advisory Board aus den Autoren, denen er am meisten folgt (Karpathy sitzt mit drin), und einem Wächter, der prüft, was aus dem Vault heraus überhaupt an eine öffentliche API gehen darf. Weil viele Begriffe durch den Äther gingen, übersetzt Cornelius zwei davon in Normaldeutsch. Ein RAG, Retrieval Augmented Generation, zerlegt Texte in Chunks, wandelt sie in Embeddings und ordnet sie in einem hochdimensionalen Raum an, in dem Nähe Bedeutung heißt. Das klassische Beispiel: König minus Mann plus Frau ergibt Königin. Eine Ontologie kommt aus der Graphentheorie, Knoten und Kanten, und beschreibt, wie Begriffe zusammenhängen, damit sich Pfade entlanghangeln lassen. Warum das zählt, wird beim Teilen klar: Wer ein Wissenssystem selbst gebaut hat, kennt die Begriffe darin. Wer es geerbt bekommt, kann nicht danach suchen, weil ihm das Schlüsselwort fehlt. Ein grep hilft dann nichts, und Brute Force über 200 Treffer kennt keine Relevanzgewichtung. Für die Firma heißt das: Single Source of Truth, oder wie Mark es nennt, ein Knowledge Hive, für Richtlinien, FAQs, Organigramme, Architekturdokumentation, Verträge. Nur eben ohne den nächsten Monolithen zu bauen, für den man erst eine Schulung braucht. Zum Schluss die Empfehlung für alle, die anfangen wollen. Mark sagt: mit Skills starten. Nicht das Monster bauen, sondern sich für eine konkrete Aufgabe überlegen, welche Informationen ein Skill braucht und wie sie strukturiert sein müssen. Ein Skill plus ein paar Dateien im Projektordner ist bereits ein Mini-Second-Brain. Cornelius empfiehlt etwas anderes: den Fokus verschieben, weg von „was könnte ich noch wissen wollen" hin zu „woran arbeite ich gerade und was will ich erreichen". Dann braucht es oft gar nicht so viel Wissen, sondern eine gezielte Suche, und das Brain wächst von selbst. Sein Trostpflaster für Perfektionisten: Wenn er 90 Prozent des Zeitaufwands spart und das System 30 Prozent falsch macht, bleibt immer noch ein großer Mehrwert. Jens' Schlusswort ist wie immer einfach machen, und Marks Beobachtung zum Mitnehmen: Wir haben Modelle, die Videos generieren, und speichern unser Wissen in schlichten Textdateien. Schaut euch Markdown an. Enterprise Brains und die Frage, wie tausend Second Brains miteinander reden, bleiben liegen. Dafür gibt es schon die Einladung zur zweiten Folge mit Cornelius. — Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki. Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004 Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699 Feedback und Gäste: über die Show-Seite.

EXOKORTEX

55 Minuten
Diese Folge sollte gar nicht existieren. Geplant war die Second-Brain-Folge mit Cornelius Illi, aufgenommen und in der Konserve. Dann fährt Mark ohne Notebook nach Dänemark, will im Center Park ein Bier trinken und nichts mit KI zu tun haben, stolpert über ein Feature und schreibt Jens. Ergebnis: eine Zwischenfolge, aufgenommen aus dem Tesla, weil das Studio im Urlaub eben so aussieht. Der Auslöser ist ein Sprachrekorder. Mark hatte vor Monaten schon einen Plaud Pin, angesteckt am Revers, und wieder verkauft. Sein Problem damit war nicht die Technik, sondern er selbst: Man spricht sich was auf, hört es morgen an, spricht sich noch was auf, und irgendwann liegen vierzig Nachrichten da, die man nie wieder anfasst. Er nennt es das Pfandflaschen-Problem. Zwei Flaschen unterm Schreibtisch bringt man weg, zwanzig nicht mehr. Neu ist die Plaud Note, ein Gerät im Checkkartenformat mit Mikrofon-Array und eigenem Speicher, das per MagSafe hinten ans Handy klemmt. Aufnahme läuft lokal, rund dreißig Stunden passen drauf, ein prominentes Aufnahmelicht hat es nicht. Wer damit Gespräche mitschneiden will, braucht Einverständnis, und ein Nein ist zu akzeptieren. Der eigentliche Unterschied kam am 23. Juli: Plaud hat einen MCP-Server veröffentlicht. Damit liegen die Sprachnotizen nicht mehr nur in der Hersteller-App, sondern lassen sich aus Claude, ChatGPT, Gemini oder einem selbstgebauten Harness heraus abfragen. Marks Beispiel aus dem Urlaub: 28 Notizen in 48 Stunden aufgesprochen, teils Mails, teils Erinnerungen, teils Projektgedanken. Eine einzige Frage an Claude, was er sich da eigentlich alles aufgetragen hat, und er bekommt die Liste sortiert zurück, samt Angebot, die Dinge gleich zu erledigen. Eine der Mails war danach fertig formuliert. Wer jetzt fragt, warum es nicht die Sprachmemo-App von Apple tut: Aufnehmen und lokal transkribieren kann sie, aber es gibt keinen Massenexport und keinen MCP-Zugriff. Wer mehr will, muss über Plauds API gehen, sich die Audiodateien selbst vom Gerät holen, lokal mit Whisper transkribieren und einen eigenen MCP-Server davorstellen. Dann bleiben die Daten im eigenen Haus. Interessant wird es, wo die beiden auseinandergehen. Jens nutzt Voice als schnellen Dialogkanal, er redet mit der KI, weil er schneller spricht als tippt, und will sofort Antwort. Mark speichert bewusst aus, ohne Feedback, weil er im Urlaub keine acht parallelen Chats auf dem Handy verwalten will. Für genau dieses Auslagern fällt der Begriff, der der Folge den Namen gibt: Exocortex. Klingt nach einem Film mit Arnold Schwarzenegger, trifft die Sache aber. Der Unterschied zum Second Brain ist, dass dort nicht nur gespeichert und auffindbar gemacht wird, sondern so weit aufbereitet, dass eine KI damit arbeiten kann. Beim Datenschutz bleiben sie ehrlich unentschieden, ausdrücklich ohne Rechtsberatung. Jens erinnert an das 3D-gedruckte Mikrofon, das er sich 2023 aus den USA hat schicken lassen und das man als Kette um den Hals trug: Solche Geräte vergisst man auszuschalten, und dann läuft man mit dem Hund spazieren und hat versehentlich das halbe Eiscafé aufgenommen. Marks Beobachtung dazu ist, dass ein sichtbar getragenes Mikrofon härter bewertet wird als das Handy in der Hosentasche, das genau dasselbe kann. Seine Hoffnung liegt auf technischen Lösungen statt auf Verzicht: ein Signal, das dem Gerät des anderen sagt, dass man nicht aufgenommen werden will. Sicher ist nur, dass mit kleiner werdenden lokalen Modellen mehr davon um uns herum laufen wird, nicht weniger. Ab der Mitte geht es um das Second Brain selbst, als Vorgeschmack auf die Folge mit Cornelius. Kein Voodoo, sagt Jens: ein Ordner, drei Markdown-Dateien, untereinander verlinkt, das reicht für den Anfang. Wer euch ein Second Brain für viel Geld verkaufen will, bei dem lauft ihr weg. Der Nutzen liegt im Kontext. Wechselt ihr von ChatGPT zu Gemini oder Claude, weiß das neue Modell nicht, wer ihr seid, woran ihr arbeitet, was euch wichtig ist. Ein Second Brain trägt das mit. Marks 3,8 Gigabyte Sprach- und Textnotizen auf dem iPhone waren jahrelang ein Sumpf, jetzt sind sie Material. Dazu kommen Screenshots und die Nachrichten, die er sich selbst per iMessage schickt, weil Ablage noch nie seine Stärke war und Spotlight lange als Ersatz herhalten musste. Wer Likes und Kommentare von LinkedIn oder X einsammeln will, kommt über den DSGVO-Datenabzug ran, den man sich regelmäßig geben lassen kann. Jens hat das durchgerechnet. Sein Twitter-Archiv mit rund 20.000 Likes kostet als Abzug nichts, taugt allein aber wenig, weil die interessanten Links im ersten Kommentar stehen und nicht im Post, sonst straft der Algorithmus ab. Also hat er die API hinterhergeschickt und die Kommentare bis zur zweiten Ebene nachgeladen. Ein Tag Rechnen, 41 Euro. Laufend kostet es ihn Cent-Beträge, weil nur noch die neuen Likes dazukommen. Er hält es für gut investiert, weil ein Like verrät, was ihn wann interessiert hat, und die KI daraus ableiten kann, welche Themen bei ihm Gewicht haben und welche er hat liegen lassen. Am Schluss kommt der unbequeme Teil: Auch über Sprachnachrichten lassen sich Prompts injizieren. Wer fremde Audios in sein System kippt, sollte das wissen. Was das im Großen bedeutet, deutet Mark nur an, nämlich wie viel Wissen in Meetings gesagt und danach vergessen wird. Die Demonstration dazu liefert er selbst, indem er in die Abmoderation hinein Alexa und Siri anspricht und den Podcast abonnieren lässt. Nicht jeder Lautsprecher im Raum wird das ignoriert haben. — Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki. Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004 Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699 Feedback und Gäste: über die Show-Seite.

China Schock

37 Minuten
Staffel 2 beginnt, das Cover ist neu, und Mark und Jens sind ein Jahr und sieben Tage alt. Die erste Frage der neuen Staffel ist gleich die größte: Wer führt die KI-Welt eigentlich an? Noch immer die USA mit ihren Frontier-Modellen, oder hat China gerade den nächsten DeepSeek-Moment ausgelöst? Beide sagen vorweg, was sie oft sagen: In Teilen haben wir keine Ahnung. Genau deshalb wird darüber geredet. Vorher noch eine Geschichte, die es bis in den deutschen Blätterwald geschafft hat. Ein Modell von OpenAI sollte in einer abgeschotteten Testumgebung eine Aufgabe lösen und hat sich stattdessen einen Weg nach draußen gebuddelt und bei Hugging Face die Lösung geholt, weil das leichter war als selber rechnen. Mark vergleicht das mit einem Prüfling in einem Raum ohne Fenster und Türen. Der zweite Teil der Geschichte ist der eigentlich bittere: Auf der Verteidigerseite haben die Modelle von Anthropic und OpenAI abgewinkt, weil sie ihre eigene Abwehrmaßnahme für einen Angriff hielten. Zur Verteidigung genutzt wurden am Ende chinesische Modelle. Dann die Zahlen, um die es geht. Kimi K3 von Moonshot AI ist am 16. Juli erschienen, das Abo kostet je nach Rechenleistung ein Drittel bis die Hälfte dessen, was vergleichbare US-Modelle kosten, und seit kurzem sind die Gewichte öffentlich. 2,8 Billionen Parameter zum Selberbetreiben, wenn das Blech reicht. Marks Rechner reicht nicht, ein Mac Studio mit 512 GB RAM reicht nicht, zwei davon auch nicht. Die alte Erzählung, offene Modelle hingen den amerikanischen Frontier-Modellen drei, vier Monate hinterher, stimmt so nicht mehr. Cursor baut seinen Coding Agent Composer auf Kimi auf, Qwen zieht nach, und die Ironie dabei ist, dass diese Modelle richtig Gas geben, sobald sie auf der guten amerikanischen Hardware laufen, die in China unter Exportkontrolle steht. Jens hält dagegen, dass ihn die Rangliste wenig interessiert: Konkurrenz ist gesund, sie drückt die Preise, und für Anwender wird ab einem gewissen Punkt Kosten wichtiger als der letzte Benchmark-Prozentpunkt. Womit beide beim Alltagsproblem sind. Mark rechnet vor, was ein 200-Euro-Abo an Tokens durchschiebt, die im Einzelverkauf eher 8.000 Euro wert wären, und fragt sich, wie lange die Anbieter das noch subventionieren, wenn sie erst an der Börse sind. Anthropic hat am Freitag vor der Aufnahme Opus 5 nachgelegt, für August wird GPT-6 gemunkelt. Gleichzeitig ist die Auswahl kaum noch zu bedienen: Jens liest die Modellliste aus seinem Notion vor und kommt vom Zählen ins Schäfchenzählen. Für Anwender außerhalb der KI-Blase ist das erschlagend, und die Hilfestellungen der Anbieter („für alltägliche komplexe Aufgaben") helfen niemandem. Marks ehrliche Daumenregel: das größte Modell nehmen, bis die Warnung kommt, dass das Limit bald erreicht ist, und den Rest der Woche runterschalten. Nicht zum Nachmachen empfohlen. Sein Prinzip dahinter schon: Viel hilft viel ist beim Modelleinsatz kein guter Ratschlag, weil das größte Modell auch mehr kostet und länger braucht. Perplexity Computer zeigt mit seinem aufgabenabhängigen Routing, wohin das läuft, und die Idee eines LLM-Orchestrators, der einem für jede Frage das beste Preis-Leistungs-Modell zuteilt, liegt auf der Straße. Der zweite Teil dreht die Richtung um: nach unten statt nach oben. Mark ist über ein Repository gestolpert, das ein offenes Sprachmodell auf einem ESP32-Microcontroller für 8 Dollar laufen lässt, komplett offline. Hier ist es: github.com/slvDev/esp32-ai. 28,9 Millionen Parameter auf einem ESP32-S3 mit 512 KB SRAM, rund 9,5 Token pro Sekunde, nichts davon geht an einen Server. Der Trick ist Googles Per-Layer-Embeddings-Idee aus Gemma: 25 Millionen Parameter liegen als Lookup-Tabelle im langsamen Flash, pro Token werden davon etwa 450 Byte gelesen, und nur der rechnende Teil bleibt im schnellen Speicher. Das Vorgängermodell auf so einem Chip hatte 260.000 Parameter, also rund ein Hundertstel. Fairerweise dazu: Trainiert ist das Ding auf TinyStories, es schreibt kurze Geschichten und beantwortet keine Fragen. Interessant ist die Architektur, nicht der Output. Jens sieht darin die Rückkehr der AI-Wearables, die vor zwei, drei Jahren groß gehypt und dann still wurden, samt Überlebenshandbuch, das dir am Berg erklärt, wie du dir eine Schiene baust. Und dann wird es praktisch. Bei OpenAI ist in Codex ein Record-and-Replay-Feature erschienen: Bildschirm aufnehmen, in den Agenten werfen, daraus wird ein Skill. Jens fand das erst beeindruckend, war dann aber skeptisch, weil so ein Feature Tastatur und Bildschirm mitlesen will, und hat es im eigenen Harness in zwei Stunden nachgebaut. Ein Screencast mit gesprochenem Kommentar reicht: Das Modell zerlegt das Video, wirft die Bilder raus, in denen nichts passiert, baut sich aus dem Rest einen Skill mit Screenshots als Orientierungsmuster und bedient die Webseite anschließend headless über Playwright. Wenn es nicht weiterkommt, schaut es auf seine eigenen Screenshots. Marks Punkt dazu: Vor kurzem hieß es noch, Englisch sei die neue Programmiersprache. Jetzt fällt auch diese Abstraktionsebene weg, weil die Maschine einfach sehen kann, was wir tun. Bleibt die andere Seite der Medaille, und die ist Datenschutz: Wer ständig mit einer Brille mitschneidet, produziert Daten, an denen sehr viele sehr interessiert sind. Dazu kommt eine eigene Folge mit Gast, und nächste Woche ist Cornelius da, Thema Second Brain. — Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki. Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004 Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699 Feedback und Gäste: über die Show-Seite.
In Podcasts werben
Schalte jetzt Werbung in Podcasts.

Über diesen Podcast

Willkommen bei „Think Different. Think AI.“ – dem Podcast von Mark und Jens. Zwei technologieverliebte Köpfe, die nicht nur über künstliche Intelligenz reden, sondern sie leben. Hier gibt’s klare Einordnungen, echte Praxiseinblicke und einen frischen Blick auf das, was möglich ist – verständlich, kritisch und immer mit einem Augenzwinkern. KI zum Nachdenken. Zum Schmunzeln. Und vor allem: zum Mitreden.... von Menschen … für Menschen
Podcast melden

„Think Different. Think AI.“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz