Prompt und Antwort Archiv

Claude Code hat gefühlt jedes Projekt im Kopf und sucht dabei mit einem Werkzeug, das über fünfzig Jahre alt ist: grep. Zum Abschluss unserer Reihe über das Gedächtnis von Agenten fragen wir, warum das so gut funktioniert, obwohl es weder Embeddings noch Vektordatenbank gibt, und ob man einen persönlichen Agenten genauso bauen könnte.

Was grep ist und warum agentische Suche mit einem schlauen Modell RAG im Code schlägt

Warum Code ein Sonderfall ist und wofür man Vektorsuche, Graphen und Honcho trotzdem braucht

Unsere Erfahrung: Claude Code findet Projekte auf dem ganzen Rechner, weil die Ordner selbst der Index sind

Ein Alltagsagent für WhatsApp und Mails auf grep-Basis: feste Ablageorte, aktualisieren statt anhängen, Aliase und Stichworte

Wo grep an Grenzen stößt: Trefferflut, Überblicksfragen, lange Beziehungsketten und alles, was kein Text ist

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Ein Sprachmodell liest die Gewichte eines anderen Modells, ändert gezielt ein paar davon, und dessen Ergebnis in Mathe versechsfacht sich. Wir schauen uns das MIT-Paper „Sparks of Weight-Space Programming“ an, in dem GPT-6 Astra die Gewichte von Qwen 3.5 bearbeitet hat, und fragen, was davon wirklich neu ist. Von dort geht es zur Grundfrage: Wie findet man in einem neuronalen Netz überhaupt ein Konzept?

Was Astra bei Qwen geändert hat, warum es bei Gemma nicht geklappt hat und was die Kritiker sagen

Warum Konzepte nicht in einzelnen Neuronen stecken, sondern als Richtungen, und was Superposition damit zu tun hat

Sparse Autoencoder, Difference of Means und Steering: wie man ein Konzept wie die Golden Gate Bridge selbst findet und in welcher Schicht man sucht

Kennt ein Modell mich? Was der Test mit dem eigenen Namen zeigt und wo er täuscht

Wie groß ein neuronales Netz für eine Aufgabe sein muss

Quellen: rikiyat.github.io/blog/weight-space-programming

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Muss man wirklich alles nachrecherchieren, was ein Sprachmodell behauptet? Für unseren nächsten Workshop gehen wir durch, woher Halluzinationen kommen, wie gut die Modelle heute sind und was im Prompt und im Harness dagegen hilft. Dazu kommen die Ergebnisse unseres eigenen Pilotversuchs mit einundzwanzig Fragen, fünf Modellen und knapp zweitausend Läufen. Am Ende steht kein Angstszenario, sondern ein Prüfplan.

Warum ein Sprachmodell Plausibles statt Wahres erzeugt, und was Training und Gefälligkeit damit zu tun haben

Der aktuelle Stand: warum es nicht die eine Halluzinationsrate gibt und was Vectara und der Stanford AI Index messen

Was im Prompt hilft und wie wenig ein erlaubtes „Weiß ich nicht“ in unserem Test gebracht hat

Vier Hebel im Harness: Grounding, Belegpflicht per Code, Verifizierer und Konsistenzprüfung

Unser Experiment mit und ohne Websuche, seine Grenzen und eine Klima-Recherche als Praxisbeispiel

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Das beste Gedächtnis für einen Agenten ist vielleicht eins, an das der Agent gar nicht denken muss. Im vierten Teil unserer Memory-Reihe geht es um Honcho von Plastic Labs: einen Server, der die Gespräche mitliest und im Hintergrund ein Bild davon aufbaut, wer du bist und wie du arbeitest. Wir gehen der Reihe nach durch, wann ausgewertet wird, was hineinkommt, wo und wie es gespeichert wird, wie aufgeräumt wird und wie das Wissen zurück zum Agenten kommt. Grundlage sind ein Vorgespräch mit unseren Fragen und unsere Code-Analyse von Honcho und seinem Plugin für die DeepSeek Harness.

Beobachten statt selbst merken: warum das gerade kleinen Modellen hilft und warum man Arbeitsmodell und Erinnerungsmodell getrennt wählen kann

Der Deriver: ausgewertet wird erst ab 512 Tokens, mit einem einzigen Aufruf, und warum das Modell dafür ohne Thinking laufen sollte

Was hineinkommt und über wen Schlüsse gezogen werden: Werkzeugaufrufe, Agentenantworten als Kontext, der Agent als eigener Peer

Postgres mit pgvector, Freitext statt Schema, die Peer Card und das Dreaming, das nachts aufräumt und Muster ableitet

Abrufen per Kontextpaket, per Frage an Honcho oder automatisch durch den Harness, dazu drei Tipps für den Einsatz

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Kolibri, das Modell von Aleph Alpha, braucht in voller Genauigkeit 156 Gigabyte. Quantisieren rechnet es kleiner, indem die Gewichte auf ein gröberes Raster gerundet werden. Wir haben das noch nicht selbst gemacht, wollen es aber auf unserem DGX Spark und unserer Workstation mit RTX 4090 ausprobieren. In dieser Folge geht es darum, was dabei technisch passiert, was man vorher entscheiden muss und woran man hinterher misst, ob das Modell noch dasselbe kann.

Was beim Runden passiert: Blöcke, Skalierungsfaktor, Rundungsfehler und warum Ausreißer das Kernproblem sind

Die drei Entscheidungen: wie viele Bits, wie große Blöcke, mit oder ohne Kalibrierdaten (imatrix, GPTQ)

Was man vom Basismodell braucht: das Original in voller Genauigkeit, ein Werkzeug, das die Architektur kennt, und welche Teile nicht gerundet werden dürfen

GGUF oder NVFP4: das Format folgt aus der Maschine, auf der das Modell später läuft

Messen in drei Ebenen: KL-Divergenz, Benchmarks und die eigene Aufgabe, mit Flips und getrennt geprüften Werkzeugaufrufen

Die Zahlen zu fertigen Kolibri-Fassungen stammen aus der Community, vor allem aus der Modellkarte von mittwald. Die Dauer auf dem Spark ist unsere Schätzung.

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Wie setzt man ein Experiment mit einem Coding-Agenten auf, und woran sieht man hinterher, was er wirklich getan hat? Wir haben uns RecreationWorld auf den Mac gestellt, das Repo vom Team hinter den Qwen-Modellen mit dem Prüfstand RecreationBench, und OpenCode mit unserem eigenen Qwen darauf laufen lassen. Die Folge erklärt das Repo, unseren Aufbau mit seinen Stolpersteinen und die Auswertung eines Laufs. Die Note gilt für eine einzige Aufgabe mit unserem eigenen Judge und ist nicht mit der offiziellen Rangliste vergleichbar.

Was RecreationBench ist: 250 Nachbau-Aufgaben, versteckte Funktionstests und ein Sprachmodell als Schiedsrichter

Einen fremden Prüfstand nutzen: den Vertrag nachbilden statt umbauen, Abschottung und vier Stolpersteine

Was zu einem Experiment gehört, vom eingefrorenen Auftrag bis zum Kontrollfall vor dem ersten Lauf

Den Agenten beobachten: Modell-Log, Werkzeugaufrufe, Kopien des Arbeitsordners und Notizen des Modells, ähnlich wie in unserer Agentenwerkstatt

Auswerten mit Fragen statt mit der Note, und was ein Stop-Hook gegen die gefundenen Fehler tun könnte

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Für diese Folge wollten wir nachsehen, warum wir im August eine Funktion an unseren alten Stimmen wieder gelöscht haben. Die Gespräche dazu gibt es nicht mehr: Unser Coding-Agent hebt seine Sitzungen ab Werk nur dreißig Tage auf. Im dritten Teil unserer Memory-Reihe geht es um die Suche über alte Gespräche, also RAG über die eigenen Sitzungen. Was muss man aufheben, wie wird es durchsuchbar, wer stößt die Suche an, und wo bricht sie? Grundlage sind unsere Code-Analyse von neun Gedächtnissystemen für die DeepSeek Harness und eine Auszählung unserer eigenen Sitzungsverläufe.

Notizbuch oder Episoden: Fakt gegen Hergang, und woran man merkt, dass man das Warum von damals braucht

Was in einer Sitzung wirklich steht: 86 Prozent Werkzeugergebnisse, gut ein Prozent Antworten, und warum man vor dem Speichern verdichtet

Wie gesucht wird: Stichwort- und Bedeutungssuche zusammen, das Datum als eigenes Feld, Abruf in drei Stufen bis zum Originalgespräch

Automatisch vor jedem Turn oder als Werkzeug: was memsearch und MemOS tun und was das im Kontext kostet

Wo es bricht: Überholtes landet oben, deutsche Fragen, Schlüssel im Index, und wie man trotzdem damit baut

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Eine Folge in eigener Sache: Wer uns regelmäßig hört, hat gemerkt, dass wir seit zwei Wochen anders klingen. Wir erzählen, warum wir von ElevenLabs zu Gemini TTS gewechselt sind und warum die Expertin zwischendurch ins Englische gerutscht ist. Dazu echte Erfahrungswerte aus zwei Projekten: Qwen 3.8 Flash mit Strata auf unserer eigenen Workstation und eine komplette Videostaffel zur Geschichte der KI, die ein Agent für uns produziert hat – samt einer teuren Nacht.

Neue Stimmen: Gemini TTS über OpenRouter, eine Szene pro Aufruf, und was gegen das Englisch geholfen hat

Qwen 3.8 Flash mit Strata auf einer RTX 4090: 110 bis 120 Tokens pro Sekunde, und ein Agent, der eine Stunde lang selbstständig eine Dokumentensuche aufbaut

Zwanzig Videofolgen, über sechs Stunden, in rund zwei Tagen: Buch, Bilder mit Qwen Image, Clips mit MiniMax H3, Schnitt und Upload – alles von Claude Code. Zu sehen auf unserem YouTube-Kanal KI Superheroes

Was passiert, wenn ein Agent sich sein Modell selbst aussucht

Neu auf building-agents.com: ein Deep Dive zu Wissensgraphen mit Experiment und die Inhalte unserer Ausbildung zum Harness Engineering: https://building-agents.com

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Wait, but, alternatively: Reasoning-Modelle zweifeln beim Nachdenken gern noch eine Runde länger, als nötig wäre. Qwen 3.8 mit 27 Milliarden Parametern steht ab Werk auf der höchsten Denkstufe, und auf der eigenen Hardware ist jedes zusätzliche Token Wartezeit. Wir haben uns drei Fine-Tunes angesehen, die genau daran sparen wollen: ThinkingCap, Swift 1.5 und QwenPi, das sogar auf einen einzigen Agenten-Harness zugeschnitten ist. Grundlage sind Herstellerangaben und unabhängige Tests, selbst getestet haben wir noch nicht.

Warum Modelle überhaupt zu lange denken: Belohnung für richtige statt kurze Antworten, „Wait“ als antrainierter Zweifel, und warum Quantisierung es schlimmer macht

Warum der Effort-Regler kein Ersatz ist: Medium spart die Hälfte und kostet gut neun Prozentpunkte

Drei Wege, ein Ziel: konservativ mit geheimem Rezept, bestrafte Zweifelwörter, geordnete Denkstufen für den Pi-Harness

Was von den Schlagzeilen bleibt, wenn man genauer hinsieht, und warum bei Agenten nur Tokens und Zeit pro gelöster Aufgabe zählen

Der zweite Hebel, die Inferenz-Engine, und die Lizenzfrage für den Mittelstand

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Eine Markdown-Datei pro Erinnerung und ein Inhaltsverzeichnis darüber: Mehr steckt hinter dem Gedächtnis unseres Coding-Agenten nicht. Im zweiten Teil unserer Memory-Reihe geht es um die Fragen drumherum. Wann liest der Agent aus seinem Notizbuch, wie findet er das Richtige, wann schreibt er hinein, und wer entscheidet das eigentlich: das Modell, der Harness oder beide? Grundlage sind unsere Code-Analyse von neun Gedächtnissystemen für die DeepSeek Harness und das Notizbuch, das unser eigener Coding-Agent seit August führt.

Die Mechanik: ein Index, der zu Sitzungsbeginn geladen wird, und Dateien, die das Modell selbst öffnet, ganz ohne Suche und Embeddings

Wer schreibt: das Modell nach einer Anleitung im System-Prompt, der Harness als Anstoß oder der Harness allein

Was der Prompt-Cache damit zu tun hat und warum ein Index im System-Prompt in langen Sitzungen teuer wird

Sub-Agenten im Notizbuch: lesen ja, schreiben nein, und warum das Gedächtnis auch ein Sicherheitsthema ist

Ein ehrlicher Blick in unser eigenes Notizbuch: eine Indexzeile mit über dreitausend Zeichen, Widersprüche, veraltete Einträge, und wie man es besser pflegt

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Was ist ein Knowledge Graph eigentlich, und ist das überhaupt neu? Wir erklären, woraus so ein Graph besteht, worin er sich von einer relationalen Datenbank und einer Vektordatenbank unterscheidet und warum die Idee gut sechzig Jahre alt ist. Dann geht es um die Fragen, an denen die meisten Projekte hängen bleiben: Woher weiß man, welche Arten von Knoten man braucht, und wer entscheidet, welches Wissen hineinkommt?

Knoten, benannte Kanten und das Tripel aus Subjekt, Prädikat und Objekt, dazu was eine Ontologie ist

Von semantischen Netzen und Cyc über Googles „Dinge statt Zeichenketten“ bis GraphRAG: was die Sprachmodelle wirklich verändert haben

Kompetenzfragen als Bauplan: aus Substantiven werden Knotentypen, aus Verben Kanten, und die typischen Fehler beim Modellieren

Was hineinkommt: Rang der Quellen, Stammdaten als Rückgrat, Zusammenführen, Herkunft an jeder Kante und zwei Zeiten je Fakt

Technik: RDF gegen Property Graph, wie die Frage in den Graphen kommt, GraphRAG, LazyGraphRAG, LightRAG und Graphiti, und wann sich ein Graph überhaupt lohnt

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Ein Embedding-Modell macht aus einem Foto 768 Zahlen und kann diese Zahlen nicht wieder in Worte zurückübersetzen. Wir wollten trotzdem wissen, was in so einem Bild-Vektor steckt. Mit EmbeddingGemma 2 von Google, einem Foto aus einem öffentlichen Datensatz und einer Methode, die nur misst und nie zurückrechnet, haben wir versucht, die Bedeutung des Bildes wieder herauszulesen. Das klappt erstaunlich gut, aber nicht überall.

Warum ein Embedding-Modell keinen Rückweg kennt und wie man mit Raten und Prüfen trotzdem Wörter aus einem Vektor gewinnt

Beam-Suche über 30.000 Wörter und ein kleines Sprachmodell, das das Bild nie sieht, aber für die Grammatik sorgt

Die Modalitätslücke: Warum fast jeder Text einem Bild schon „nah“ ist und weshalb wir jeden Wert gegen eine Grundlinie lesen

Ein Vektor als Mischung: Zutaten zerlegen und einzelne Dinge herausrechnen

Wie aus Kacheln und Tokens am Ende ein einziger Vektor wird, und was beim Mitteln verloren geht

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Was du einem Agenten heute beibringst, weiß er morgen nicht mehr. In unserer Agentenreihe beginnt das Thema Gedächtnis, und wir fangen mit dem Überblick an: Warum braucht ein Agent überhaupt ein eigenes Memory-System, und warum gibt es dafür so verschiedene Lösungen? Grundlage sind neun Gedächtnissysteme aus der Community, die wir uns für die DeepSeek Harness direkt im Quellcode angesehen haben.

Warum Verlauf und Regeldateien nicht reichen, und woran du merkst, dass deinem Agenten ein Gedächtnis fehlt

Fünf Schichten von Gedächtnis: Regeln, Nutzerprofil, Projektwissen, Episoden und Wissenssammlung – und wie viel davon immer im Kontext liegen sollte

Die Muster im Vergleich: das Notizbuch, das das Modell selbst führt, die automatische Destillation mit Dream, Honcho als externer Beobachter, der Suchindex über alte Gespräche und das LLM-Wiki nach Andrej Karpathy

Drei Fragen, nach denen sich jedes System sortieren lässt: Verhalten oder Wissen? Wer schreibt? Und läuft es mitten in der Sitzung oder parallel daneben?

Was ein Gedächtnis im Kontext kostet und warum es eine Rolle spielt, ob Erinnerungen im System-Prompt oder als eigene Nachricht landen

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

RAG, GraphRAG, LightRAG, OpenRAG, LoRA, QLoRA – und wie bringe ich eigene Dokumente in die KI? Diese Frage kam als Hörerwunsch bei uns an. Wir spielen sie an einem Maschinenbauer durch, dessen Servicetechniker einen Assistenten bekommen sollen, der aus Handbüchern und Serviceberichten antwortet. Am Ende kannst du jeden dieser Begriffe einordnen.

Warum „alle Dokumente ins Chatfenster“ scheitert: begrenztes Kontextfenster, Kosten und Tempo, Lost in the Middle, Rechte und Aktualität

Wie RAG in vier Schritten funktioniert: Chunking, Embeddings und Vektordatenbank, Retrieval, Antwort mit Quellenangabe – und warum die meisten Fehler bei der Suche entstehen

Die Begriffe auf vier Ebenen: das Prinzip, Varianten wie Hybrid Search, Reranking, GraphRAG, LightRAG und Agentic RAG, fertige Produkte wie OpenRAG – und was gar kein RAG ist

Fine-Tuning mit LoRA und QLoRA gegen RAG: Das eine gibt dem Modell Verhalten, das andere Wissen

Wann Long Context mit Zwischenspeicher (CAG) die einfachere Lösung ist

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.