- Startseite
- Podcasts
- Prompt und Antwort Podcast
Episoden
13 Minuten
Claude Code hat gefühlt jedes Projekt im Kopf und sucht dabei mit einem Werkzeug, das über fünfzig Jahre alt ist: grep. Zum Abschluss unserer Reihe über das Gedächtnis von Agenten fragen wir, warum das so gut funktioniert, obwohl es weder Embeddings noch Vektordatenbank gibt, und ob man einen persönlichen Agenten genauso bauen könnte.
Was grep ist und warum agentische Suche mit einem schlauen Modell RAG im Code schlägt
Warum Code ein Sonderfall ist und wofür man Vektorsuche, Graphen und Honcho trotzdem braucht
Unsere Erfahrung: Claude Code findet Projekte auf dem ganzen Rechner, weil die Ordner selbst der Index sind
Ein Alltagsagent für WhatsApp und Mails auf grep-Basis: feste Ablageorte, aktualisieren statt anhängen, Aliase und Stichworte
Wo grep an Grenzen stößt: Trefferflut, Überblicksfragen, lange Beziehungsketten und alles, was kein Text ist
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
Was grep ist und warum agentische Suche mit einem schlauen Modell RAG im Code schlägt
Warum Code ein Sonderfall ist und wofür man Vektorsuche, Graphen und Honcho trotzdem braucht
Unsere Erfahrung: Claude Code findet Projekte auf dem ganzen Rechner, weil die Ordner selbst der Index sind
Ein Alltagsagent für WhatsApp und Mails auf grep-Basis: feste Ablageorte, aktualisieren statt anhängen, Aliase und Stichworte
Wo grep an Grenzen stößt: Trefferflut, Überblicksfragen, lange Beziehungsketten und alles, was kein Text ist
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
15 Minuten
Ein Sprachmodell liest die Gewichte eines anderen Modells, ändert gezielt ein paar davon, und dessen Ergebnis in Mathe versechsfacht sich. Wir schauen uns das MIT-Paper „Sparks of Weight-Space Programming“ an, in dem GPT-6 Astra die Gewichte von Qwen 3.5 bearbeitet hat, und fragen, was davon wirklich neu ist. Von dort geht es zur Grundfrage: Wie findet man in einem neuronalen Netz überhaupt ein Konzept?
Was Astra bei Qwen geändert hat, warum es bei Gemma nicht geklappt hat und was die Kritiker sagen
Warum Konzepte nicht in einzelnen Neuronen stecken, sondern als Richtungen, und was Superposition damit zu tun hat
Sparse Autoencoder, Difference of Means und Steering: wie man ein Konzept wie die Golden Gate Bridge selbst findet und in welcher Schicht man sucht
Kennt ein Modell mich? Was der Test mit dem eigenen Namen zeigt und wo er täuscht
Wie groß ein neuronales Netz für eine Aufgabe sein muss
Quellen: rikiyat.github.io/blog/weight-space-programming
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
Was Astra bei Qwen geändert hat, warum es bei Gemma nicht geklappt hat und was die Kritiker sagen
Warum Konzepte nicht in einzelnen Neuronen stecken, sondern als Richtungen, und was Superposition damit zu tun hat
Sparse Autoencoder, Difference of Means und Steering: wie man ein Konzept wie die Golden Gate Bridge selbst findet und in welcher Schicht man sucht
Kennt ein Modell mich? Was der Test mit dem eigenen Namen zeigt und wo er täuscht
Wie groß ein neuronales Netz für eine Aufgabe sein muss
Quellen: rikiyat.github.io/blog/weight-space-programming
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
14 Minuten
Muss man wirklich alles nachrecherchieren, was ein Sprachmodell behauptet? Für unseren nächsten Workshop gehen wir durch, woher Halluzinationen kommen, wie gut die Modelle heute sind und was im Prompt und im Harness dagegen hilft. Dazu kommen die Ergebnisse unseres eigenen Pilotversuchs mit einundzwanzig Fragen, fünf Modellen und knapp zweitausend Läufen. Am Ende steht kein Angstszenario, sondern ein Prüfplan.
Warum ein Sprachmodell Plausibles statt Wahres erzeugt, und was Training und Gefälligkeit damit zu tun haben
Der aktuelle Stand: warum es nicht die eine Halluzinationsrate gibt und was Vectara und der Stanford AI Index messen
Was im Prompt hilft und wie wenig ein erlaubtes „Weiß ich nicht“ in unserem Test gebracht hat
Vier Hebel im Harness: Grounding, Belegpflicht per Code, Verifizierer und Konsistenzprüfung
Unser Experiment mit und ohne Websuche, seine Grenzen und eine Klima-Recherche als Praxisbeispiel
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
Warum ein Sprachmodell Plausibles statt Wahres erzeugt, und was Training und Gefälligkeit damit zu tun haben
Der aktuelle Stand: warum es nicht die eine Halluzinationsrate gibt und was Vectara und der Stanford AI Index messen
Was im Prompt hilft und wie wenig ein erlaubtes „Weiß ich nicht“ in unserem Test gebracht hat
Vier Hebel im Harness: Grounding, Belegpflicht per Code, Verifizierer und Konsistenzprüfung
Unser Experiment mit und ohne Websuche, seine Grenzen und eine Klima-Recherche als Praxisbeispiel
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
17 Minuten
Das beste Gedächtnis für einen Agenten ist vielleicht eins, an das der Agent gar nicht denken muss. Im vierten Teil unserer Memory-Reihe geht es um Honcho von Plastic Labs: einen Server, der die Gespräche mitliest und im Hintergrund ein Bild davon aufbaut, wer du bist und wie du arbeitest. Wir gehen der Reihe nach durch, wann ausgewertet wird, was hineinkommt, wo und wie es gespeichert wird, wie aufgeräumt wird und wie das Wissen zurück zum Agenten kommt. Grundlage sind ein Vorgespräch mit unseren Fragen und unsere Code-Analyse von Honcho und seinem Plugin für die DeepSeek Harness.
Beobachten statt selbst merken: warum das gerade kleinen Modellen hilft und warum man Arbeitsmodell und Erinnerungsmodell getrennt wählen kann
Der Deriver: ausgewertet wird erst ab 512 Tokens, mit einem einzigen Aufruf, und warum das Modell dafür ohne Thinking laufen sollte
Was hineinkommt und über wen Schlüsse gezogen werden: Werkzeugaufrufe, Agentenantworten als Kontext, der Agent als eigener Peer
Postgres mit pgvector, Freitext statt Schema, die Peer Card und das Dreaming, das nachts aufräumt und Muster ableitet
Abrufen per Kontextpaket, per Frage an Honcho oder automatisch durch den Harness, dazu drei Tipps für den Einsatz
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
Beobachten statt selbst merken: warum das gerade kleinen Modellen hilft und warum man Arbeitsmodell und Erinnerungsmodell getrennt wählen kann
Der Deriver: ausgewertet wird erst ab 512 Tokens, mit einem einzigen Aufruf, und warum das Modell dafür ohne Thinking laufen sollte
Was hineinkommt und über wen Schlüsse gezogen werden: Werkzeugaufrufe, Agentenantworten als Kontext, der Agent als eigener Peer
Postgres mit pgvector, Freitext statt Schema, die Peer Card und das Dreaming, das nachts aufräumt und Muster ableitet
Abrufen per Kontextpaket, per Frage an Honcho oder automatisch durch den Harness, dazu drei Tipps für den Einsatz
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
10 Minuten
Kolibri, das Modell von Aleph Alpha, braucht in voller Genauigkeit 156 Gigabyte. Quantisieren rechnet es kleiner, indem die Gewichte auf ein gröberes Raster gerundet werden. Wir haben das noch nicht selbst gemacht, wollen es aber auf unserem DGX Spark und unserer Workstation mit RTX 4090 ausprobieren. In dieser Folge geht es darum, was dabei technisch passiert, was man vorher entscheiden muss und woran man hinterher misst, ob das Modell noch dasselbe kann.
Was beim Runden passiert: Blöcke, Skalierungsfaktor, Rundungsfehler und warum Ausreißer das Kernproblem sind
Die drei Entscheidungen: wie viele Bits, wie große Blöcke, mit oder ohne Kalibrierdaten (imatrix, GPTQ)
Was man vom Basismodell braucht: das Original in voller Genauigkeit, ein Werkzeug, das die Architektur kennt, und welche Teile nicht gerundet werden dürfen
GGUF oder NVFP4: das Format folgt aus der Maschine, auf der das Modell später läuft
Messen in drei Ebenen: KL-Divergenz, Benchmarks und die eigene Aufgabe, mit Flips und getrennt geprüften Werkzeugaufrufen
Die Zahlen zu fertigen Kolibri-Fassungen stammen aus der Community, vor allem aus der Modellkarte von mittwald. Die Dauer auf dem Spark ist unsere Schätzung.
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
Was beim Runden passiert: Blöcke, Skalierungsfaktor, Rundungsfehler und warum Ausreißer das Kernproblem sind
Die drei Entscheidungen: wie viele Bits, wie große Blöcke, mit oder ohne Kalibrierdaten (imatrix, GPTQ)
Was man vom Basismodell braucht: das Original in voller Genauigkeit, ein Werkzeug, das die Architektur kennt, und welche Teile nicht gerundet werden dürfen
GGUF oder NVFP4: das Format folgt aus der Maschine, auf der das Modell später läuft
Messen in drei Ebenen: KL-Divergenz, Benchmarks und die eigene Aufgabe, mit Flips und getrennt geprüften Werkzeugaufrufen
Die Zahlen zu fertigen Kolibri-Fassungen stammen aus der Community, vor allem aus der Modellkarte von mittwald. Die Dauer auf dem Spark ist unsere Schätzung.
Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Über diesen Podcast
Ein KI-generierter Podcasts rund um die Entwicklung von und mit KI.
News, Updates und interessante Hintergrundinformationen für den
professionellen Einsatz von KI hinaus. Ohne Hype und Buzzwords. Die
KI-Gilde ist ein Angebot der YnotBetter UG.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.