Das größte Modell ist selten das richtige

Irgendwo läuft gerade ein Frontier-Modell mit ein paar hundert Milliarden Parametern und macht den ganzen Tag dasselbe: Es liest fünf Felder aus einer Rechnung, formatiert sie als JSON und gibt sie zurück. Tausendmal am Tag, mit der vollen Reasoning-Maschinerie eines Systems, das eigentlich gebaut wurde, um über Quantenmechanik zu plaudern. Das funktioniert. Es funktioniert sogar gut. Es funktioniert nur ungefähr so wirtschaftlich, wie einen Bagger zu mieten, um einen einzelnen Setzling zu pflanzen.

Die meisten Aufgaben, die Unternehmen automatisieren wollen, sehen so aus. Keine offene Konversation, sondern dieselbe enge Aufgabe, immer wieder, mit wenig Variation. Genau dafür sind die großen Generalisten überqualifiziert. NVIDIAs Research-Gruppe hat das letztes Jahr in eine steile These gegossen: Kleine, spezialisierte Modelle seien für solche Aufgaben nicht nur ausreichend, sondern die geeignetere und ökonomischere Wahl (Belcak et al., 2025). Ihre Zahl dazu: Ein 7-Milliarden-Modell zu betreiben ist je nach Rechnung zehn- bis dreißigmal günstiger als ein Modell der 70-bis-175-Milliarden-Klasse, gemessen an Latenz, Energie und FLOPs (Belcak et al., 2025). Bei tausend Aufrufen am Tag ist das kein Rundungsfehler.

Das Modell ist selten das Problem

Nur ist das Modell selten das Problem. Das MIT hat 2025 dreihundert KI-Projekte in Unternehmen untersucht und kam auf eine unangenehme Zahl: 95 Prozent davon lieferten keinen messbaren Effekt auf die Bilanz (MIT Project NANDA, 2025). Der Grund war nicht, dass die Modelle zu dumm waren. Der Grund war, dass die Modelle nie richtig in den Arbeitsprozess eingebaut wurden. Generische Tools brillieren in der Demo und scheitern in der Produktion, weil sie den eigentlichen Workflow nicht kennen und nicht aus ihm lernen (MIT Project NANDA, 2025). Nebenbei lag das Geld auch nicht da, wo die meisten es suchten: Die größten Effekte fanden sich in unglamouröser Back-Office-Automatisierung, nicht in den Sales- und Marketing-Piloten, die alle finanzieren. Das Modell war fähig. Die Umgebung drumherum war es nicht.

Fokus schlägt Größe

Und hier wird ein kleines Modell interessant, weil seine Stärke nicht in der Größe liegt, sondern im Fokus. Ein spezialisiertes Modell wird gut, wenn man ihm gibt, was es zum Lösen der Aufgabe braucht. Tobi Lütke hat dafür den Begriff Context Engineering geprägt (Lütke, 2025), Anthropic hat ihn später sauber definiert: dem Modell zur Laufzeit genau die Tokens bereitzustellen, die es für ein verlässliches Ergebnis braucht (Anthropic, 2025). Das ist mehr als ein guter Prompt. Das sind die richtigen Beispiele, das relevante Wissen, der passende Tool-Zugriff, der Zustand aus den vorherigen Schritten. Und es heißt ausdrücklich nicht, alles reinzukippen, was man hat. Mehr Context macht ein Modell nicht zuverlässiger, eher im Gegenteil. Ab einer gewissen Länge nutzt kein Modell seinen Context gleichmäßig, die Trefferquote sinkt (Chroma Research, 2025). Ein enger, sauber kuratierter Context schlägt den vollgestopften.

Die Harness, und wo sie nicht reicht

Dazu kommt das Drumherum, das die wenigsten auf den Slides haben: die Harness. Der Code, der dem Modell die Aufgabe in der richtigen Reihenfolge vorlegt, ihm die Werkzeuge bereitstellt, die Ausgabe prüft und im Zweifel zurückspielt. Und wo das nicht reicht, hilft gezieltes Fine-Tuning. Genau dafür sind kleine Modelle gemacht: schnell und günstig auf eine enge Aufgabe trainierbar (Belcak et al., 2025). Ein eingearbeitetes kleines Modell schlägt das große Generalmodell auf dessen Aufgabe regelmäßig. Nicht weil es klüger ist. Weil es die Aufgabe kennt.

Das heißt nicht, große Modelle abzuschaffen. Es heißt, sie dort einzusetzen, wo sie gebraucht werden. Die offene, schwer vorhersehbare Aufgabe bekommt das große Modell. Die zwanzig immer gleichen Routineschritte drumherum bekommen kleine, spezialisierte. NVIDIA nennt das heterogene Systeme, und im Grunde ist es gesunder Menschenverstand: das passende Werkzeug für die jeweilige Aufgabe, nicht das teuerste für alle (Belcak et al., 2025).

Die Arbeit steckt im Drumherum

Das ist der eigentliche Punkt. Ein Modell automatisiert keinen Geschäftsprozess. Ein eingearbeitetes Modell in einer durchdachten Umgebung tut das. Die Arbeit steckt nicht im Parameterzähler, sondern in allem, was darum herum gebaut wird, damit das Ding seinen Job in guter Qualität macht. Das ist unbequem, weil es sich nicht mit einem Lizenzvertrag erledigen lässt.

Monitoring hält dich schnell

Und es ist nie fertig. Ein Modell, das am Montag funktioniert, kann am Freitag still daneben liegen, weil sich die Eingangsdaten verschoben haben oder jemand am Prompt gedreht hat. Deshalb gehört zu jeder produktiven Automatisierung eine kontinuierliche Evaluation. Nicht jede Ausgabe prüfen, das wäre zu teuer und zu langsam, sondern eine Stichprobe des echten Traffics laufend bewerten, als Frühwarnsystem für Drift und Qualitätsverlust (LangChain, 2026). Logging allein reicht nicht. Logs sagen dir, was passiert ist. Sie sagen dir nicht, ob es gut war.

Das klingt nach Aufwand, und in der ersten Woche ist es das auch. Danach ist es das Gegenteil. Ein System, dem man beim Arbeiten zusehen kann, lässt sich gefahrlos verändern. Eines, das man blind laufen lässt, irgendwann nicht mehr. Monitoring ist keine Bürokratie, die bremst. Es ist das, was erlaubt, schnell zu bleiben.

Das größte Modell ist die einfache Entscheidung. Das richtige ist Arbeit.

---

Quellen

Anthropic (2025) Effective context engineering for AI agents. Anthropic Engineering, 29. September.

Belcak, P. et al. (2025) Small Language Models are the Future of Agentic AI. arXiv:2506.02153.

Chroma Research (2025) Context Rot: How increasing input tokens impacts LLM performance.

LangChain (2026) Why LLM observability and monitoring needs evaluations.

Lütke, T. (2025) Beitrag auf X, 19. Juni.

MIT Project NANDA (2025) The GenAI Divide: State of AI in Business 2025. Massachusetts Institute of Technology.