Welches KI-Modell fürwelchen Agenten?

Wenn ein KI-Berater dir sagt „nimm einfach GPT-5 für alles", solltest du nachfragen. Nicht weil GPT-5 ein schlechtes Modell wäre — sondern weil das die Antwort von jemandem ist, der entweder nie produktiv 50+ Agenten betrieben hat oder die Token-Rechnung nicht selbst zahlt.

Bei Digital Maker laufen Stand Mai 2026 54 produktive KI-Agenten — in Akquise, Marketing, Coding, Reporting und Operations. Sie verwenden sechs verschiedene Modelle. Nicht aus Spielerei, sondern weil das die einzige Architektur ist, die in Mai-2026-Preisen überhaupt rentabel ist.

Hier ist unsere Logik, die Benchmarks die wir prüfen, und die konkrete Modell-Aufgabe-Matrix.

Der Single-Model-Fehler

Die häufigste Architektur-Entscheidung in mittelständischen KI-Implementierungen lautet sinngemäß: „Wir nehmen das stärkste Modell, das wir bezahlen können, für alle Aufgaben". Das klingt vernünftig — ist aber teuer und falsch.

Drei konkrete Probleme:

1. Kosten variieren um den Faktor 25×. Stand Mai 2026 kostet Claude Opus 4.5 $5/$25 pro Million Input/Output-Tokens. DeepSeek V3.2 kostet $0.30/$0.50. Wer einen Klassifizierungs-Agenten (Frage zuordnen, E-Mail einsortieren) mit Opus laufen lässt, zahlt das 50-fache für eine Aufgabe, bei der das günstigere Modell gleich gut ist.
2. Modelle haben unterschiedliche Stärken. Auf SWE-bench Verified (dem härtesten Coding-Benchmark) führen aktuell DeepSeek V3.2 mit 70,0 % und Gemini 3 Pro mit 69,6 % — direkt gefolgt von Claude 4.5 Haiku mit 66,6 %. GPT-5 Mini liegt bei 56,2 %. Für reine Wissensfragen (MMLU-Pro) ist die Rangfolge wieder anders.
3. Single-Model-Setups sind Vendor-Lock-in. Wenn Anthropic morgen die Preise verdoppelt (wie OpenAI bei GPT-4 zwischenzeitlich), bricht das Geschäftsmodell zusammen. Multi-Model-Setups verkraften Preis-Schwankungen, weil 50-70 % der Workloads jederzeit auf den nächst-günstigsten Anbieter umroutbar sind.

Die Benchmarks, die wirklich zählen

Es gibt mittlerweile dutzende Benchmark-Tabellen — die meisten davon sind irrelevant für den Mittelstand. Die fünf, auf die wir tatsächlich schauen, bevor wir ein Modell in einen Agenten einbauen:

SWE-bench Verified

Misst, wie gut ein Modell echte GitHub-Issues in echtem Open-Source-Code lösen kann. Der härteste Coding-Benchmark, der in 2024-2025 Industriestandard geworden ist. Wer auf SWE-bench gut performt, kann mit hoher Wahrscheinlichkeit produktiv Code schreiben — nicht nur Toy-Beispiele.

Stand Mai 2026 (Top-5): DeepSeek V3.2 (high reasoning) 70,0 % · Gemini 3 Pro 69,6 % · Claude 4.5 Haiku (high reasoning) 66,6 % · Claude Sonnet 4.5/4.6 in der Spitzengruppe · GPT-5 Mini 56,2 %.

MMLU-Pro

Erweiterte Variante von MMLU mit 14 Fachgebieten und 12.000 Fragen. Misst allgemeine Reasoning-Fähigkeit über Domänen hinweg. Wichtig für Wissens-Agenten, Customer-Support, generelle Q&A.

GPQA Diamond

Graduate-Physics-Quantum-Astronomy — extrem schwere Fachfragen aus Naturwissenschaften. Indikator dafür, ob ein Modell wirklich versteht oder nur Wahrscheinlichkeiten verkettet. Relevant für Banken-, Versicherungs- und regulierte Industriethemen.

TerminalBench 2.0

Misst Agent-Fähigkeit am Terminal — also Tool-Use, Mehrschritt-Ausführung, Fehler-Recovery. Für jeden Agentic-Workflow der wichtigste Test. Hier führt GPT-5.5 vor Claude Sonnet 4.6.

Chatbot Arena Elo

Blind-Vergleich durch echte Nutzer — kein Benchmark, eine Volksabstimmung. Schlechter Indikator für spezifische Aufgaben, aber guter Indikator für Sprach-Natürlichkeit und Allrounder-Qualität.

Pricing Mai 2026 — Reality Check

Die Preise haben sich in den letzten 12 Monaten dramatisch verschoben. Wer Pricing-Annahmen von 2024 noch im Kopf hat, liegt um Faktor 3-5 daneben.

Zusätzliche Kosten, die oft übersehen werden:

• Claude Web Search: $10 pro 1.000 Suchen, on top zu Token-Kosten.
• Reasoning-Mode-Aufschlag: „high reasoning"-Modi konsumieren typisch 5-10× mehr Output-Tokens.
• Embedding-Kosten: für RAG-Pipelines (Voyage, OpenAI Embeddings) — meist im Cent-Bereich, aber bei großen Wissensbasen relevant.
• Hosting für lokale Modelle: Llama 3.3 / Mistral via Ollama — keine Token-Kosten, dafür Hardware.

Unsere Modell-Aufgabe-Matrix

Aus diesen Daten leiten wir bei Digital Maker eine klare Zuordnung pro Agenten-Typ ab. Nicht in Stein gemeißelt — wir testen alle drei Monate neu — aber das ist der aktuelle Stand (Mai 2026):

Wie wir neue Modelle testen, bevor sie produktiv gehen

Modelle ändern sich alle 3-6 Monate. Was heute optimal ist, kann übermorgen veraltet sein. Unser internes Vorgehen, wenn ein neues Modell erscheint:

1. Benchmark-Lookup (15 Minuten). SWE-bench Verified, MMLU-Pro, GPQA Diamond, TerminalBench — für die Zielaufgabe. Wir schauen nur auf die Benchmarks, die zur Agent-Funktion passen, nicht auf die marketing-präsenteste Zahl.
2. A/B-Test gegen das Bestands-Modell (1-2 Stunden). 50-100 echte Eingaben aus unserem produktiven Agenten, beide Modelle laufen parallel, Mensch vergleicht Output blind.
3. Eine Woche Schatten-Betrieb. Das neue Modell läuft mit jedem Live-Request, aber nur das alte produktive Output wird verwendet. Wir loggen Latenz, Kosten und blind-vergleichen die Outputs in einer Sample.
4. Wechsel oder Verwerfen. Wenn neues Modell konsistent gewinnt oder bei gleich gut niedrigere Kosten/Latenz hat — Wechsel. Sonst weiter beobachten.

Wichtig: nie Modelle wechseln nur weil sie neu sind. Twitter-Hype ist kein Benchmark. Drei Mal in den letzten 12 Monaten haben wir „angeblich revolutionäre" Modelle getestet und beim Bestands-Modell geblieben, weil der Produktiv-Test enttäuschte.

Wie unsere Pipelines aufgebaut sind

Bei drei unserer produktiven Agenten lässt sich das Architektur-Prinzip gut zeigen — die konkreten Modell-Entscheidungen pro Schritt besprechen wir im Discovery Call, weil sie sich von Kunde zu Kunde unterscheiden.

Pipeline 1 — Outreach Optimizer (Vertrieb)

Drei Stufen, drei Modell-Klassen:

1. Recherche-Stufe: Modell mit Live-Web-Zugang. Reasoning-Qualität muss „nur" ausreichend sein — entscheidend ist Aktualität der Daten.
2. Personalisierungs-Stufe: Premium-Modell für Sprach-Qualität. Hier zahlt sich höherer Token-Preis aus, weil jede E-Mail individuell ist.
3. Review-Stufe: günstiges, schnelles Modell mit Fokus auf konsistente Prüfung — Anrede, faktische Plausibilität, Sprachstil.

Wäre alles auf dem teuersten Modell, würden die Recherche-Kosten die Marge auffressen, und der Review-Schritt würde Bias aus dem Schreib-Schritt mitnehmen. Drei Modelle = klare Trennung.

Pipeline 2 — ContentXpert (Marketing)

Vier Stufen für automatisierte Social-Media-Posts:

1. Themen-Ideation: günstiges Volumen-Modell, schnell, parallele Themen.
2. Plattform-Anpassung pro Kanal: Premium-Modell für Detail-Qualität.
3. Image-Generierung: spezialisiertes Bild-Modell (nicht LLM).
4. Final-QA: günstiges Review-Modell für Brand-Voice-Konsistenz.

Pipeline 3 — Reporting-Agent (Operations)

Tägliche Performance-Reports aus mehreren Datenquellen:

1. Daten-Aggregation: reines Python, kein LLM. Schnellster und stabilster Schritt.
2. Narrativer Report: Premium-Modell, das die Zahlen in 2-Absatz-Zusammenfassung mit Empfehlungen übersetzt.
3. Faktencheck: günstiges Modell, das jede genannte Zahl gegen den Rohdatensatz prüft.

Der Faktencheck-Schritt ist unverhandelbar — LLMs halluzinieren bei Zahlen. Ein zweites, günstiges Modell, das nur die Konsistenz prüft, fängt erfahrungsgemäß den Großteil der Halluzinationen ab.

On-Premise: wann lokale Modelle Sinn machen

Für regulierte Branchen oder besonders sensible Daten betreiben wir lokal gehostete Modelle — auf Mac-mini-Servern oder dedizierter Hardware vor Ort. Llama-3.3- und Mistral-Modelle haben 2025/26 eine Qualität erreicht, die für viele Mittelstand-Use-Cases (Klassifizierung, Zusammenfassungen, Q&A auf internen Wissensbasen) ausreichend ist — ohne dass Daten den Betrieb verlassen.

Wann lohnt sich das? Wenn Compliance, Branche oder Datenschutzbeauftragte den Einsatz von Cloud-LLMs ausschließen oder erschweren. Welche Modelle, welche Hardware und welche Integration mit den bestehenden Cloud-Agenten — Discovery Call.

Was es nicht zu vereinfachen lohnt

Wer KI im Mittelstand produktiv einsetzen will, muss eine Multi-Model-Architektur akzeptieren. Die Alternative ist nicht „einfacher" — sie ist nur „später teurer".

Die Investition in das Setup zahlt sich aus: durchschnittliche Token-Kosten pro Agenten-Workflow lassen sich gegenüber einem hypothetischen Single-Modell-Setup auf dem stärksten Premium-Modell deutlich senken. Plus: bei einem Anbieter-Ausfall läuft der Großteil der Workloads ungestört weiter, weil sie über mehrere Anbieter verteilt sind.

Was du als Mittelständler tun kannst

Drei konkrete Schritte:

1. Inventar deiner KI-Workloads. Welche Agenten/Automatisierungen laufen heute, mit welchem Modell? Wenn die Antwort „nur GPT-4" oder „nur Claude" ist — du bezahlst zu viel.
2. Aufgaben-Klassifizierung. Jeder Workload bekommt ein Label: Coding, Klassifizierung, Recherche, Content, Review, Long-Context. Pro Label das passende Modell aus der Matrix oben.
3. Vendor-Diversifikation. Mindestens zwei Anbieter (z. B. Anthropic + Google) sollten in deinem Stack vertreten sein. Sonst bist du erpressbar bei Preis-Erhöhungen oder Ausfällen.

Bevor du den Modell-Stack feinschneidest, steht die Grundsatzfrage: eigenes Modell self-hosten oder kommerzielle API einkaufen? Dazu unser Build-vs-Buy-Leitfaden für Corporate LLMs — mit Kosten, Qualitätsabstand und DSGVO-Einordnung.

Wer das selbst nicht aufsetzen will: Genau das machen wir bei Digital Maker als Embedded Operations für inhabergeführte Unternehmen. Discovery Call buchen — 30 Minuten, kostenlos, mit konkreten Empfehlungen für deinen Stack.