Der Göffel-Trick der großen KI-Anbieter: wie der Harness zur neuen Firmen-IT wird

Modelle wie die von OpenAI oder Anthropic werden zur Commodity.
Wer ein bisschen wartet, bekommt die gleiche Qualität ohnehin von
mehreren Anbietern. Was bleibt, ist die Architektur drumherum,
der Harness. Oliver und Alois erklären, wie Unternehmen
General-Purpose-Modelle mit Speicher, Prompts und Agenten so
einbetten, dass ein verlässliches eigenes System entsteht. Für
manche Startups ist das schon die neue Core IT der Firma.


Ein Thema ist das Geschäftsmodell dahinter: günstige
Einstiegszugänge für 100 bis 300 Dollar im Monat binden Early
Adopter in Teams, bis am Ende die großen Enterprise-Tickets über
die API laufen.


Lizenzchaos als Symptom: Kontingente wechseln
wöchentlich, Power User werden automatisch gedrosselt, SLAs sind
kaum planbar. Was früher eine feste DSL-Leitung war, ist heute
eine Blackbox mit wechselnder Durchsatzrate. Wer eine
verlässliche Entwicklungsstrecke bauen will, baut sie momentan
auf Treibsand.


Für Oliver und Alois ist das ein Argument für Dezentralisierung:
eigene On-Prem-Architekturen, eingefrorene Modelle für stabile
Use Cases, das Frontier-Modell nur noch als Dispatcher. Gerade im
Verteidigungssektor, mit verteilten Datenquellen und Sensorik,
wird daraus ein hierarchischer oder asymmetrischer Harness aus
Spezialmodellen.


China im Vergleich: weniger Brute Force, mehr
Smart Force, dazu eine Open-Source-Szene, die mit weniger
Rechenleistung mehr rausholt. Für europäische Anwender sind
chinesische und amerikanische Modelle inzwischen ähnlich
compliant. Bei sensiblen Workloads bleibt trotzdem die eigene
Infrastruktur die sicherere Wahl.


Für den Einstieg raten beide zu fertigen Plattformlösungen mit
fester Modellauswahl. Das senkt die Hürde und liefert schnell ein
erstes Ergebnis. Je klarer der eigene Use Case wird und je mehr
proprietäre Daten und Geschäftslogik einfließen, desto mehr lohnt
sich der Wechsel zum eigenen Harness statt der fremden
One-Click-Lösung.


Fazit: Harnessing ist am Ende eine
Make-or-Buy-Entscheidung. Die großen Anbieter liefern den Göffel,
die Mischung aus Löffel und Gabel für fast alles. Wer sein
eigenes Besteck zusammenstellt, tauscht die stumpfe Gabel gegen
ein schärferes Werkzeug, sobald der Use Case es verlangt. Wenn du
wissen willst, wie das geht, ist diese Folge für dich.