Modell-Routing: Das richtige Modell für den richtigen Job zum richtigen Preis
Die meisten Teams zahlen Premiumpreise für Arbeit, die kein führendes Modell erfordert. Jemand wählt das leistungsstärkste Modell, das er finden kann, setzt es als Standard, und jede weitere Anfrage läuft dann zum Höchstpreis. Die Ausgaben steigen schneller als die Qualität dessen, was am Ende ausgeliefert wird.
Modell-Routing ist die Lösung. Statt jede Anfrage an ein einziges Modell zu schicken, prüft ein Router jede Anfrage und wählt das Modell aus, das dazu passt. Einfache Aufgaben gehen an schnelle, günstige Modelle. Schwierige Aufgaben mit langem Horizont gehen an die führenden Modelle.
Modell-Routing entwickelt sich zu einer Standardschicht in der Arbeit von Teams mit LLMs. Der Abstand zwischen dem günstigsten leistungsfähigen Modell und dem teuersten ist enorm, und das meiste von dem, was Sie den ganzen Tag tun, liegt auf der einfachen Seite. Wenn Sie gut routen, halten Sie die Qualität hoch und senken die Ausgaben gleichzeitig deutlich. Im Rest dieses Leitfadens geht es darum, wie Routing in der Praxis funktioniert, was Sie messen sollten, um sicher zu sein, dass es funktioniert, und wie Sie es einschalten.
Warum Modell-Routing jetzt wichtig ist
Zwei Dinge haben sich gleichzeitig verändert. Modelle wurden über eine breite Preisspanne hinweg leistungsfähiger, und Entwickler begannen, deutlich mehr Anfragen darüber laufen zu lassen, weil Agenten immer mehr Arbeit übernahmen. Diese Kombination macht einen Standard mit nur einem Modell schnell teuer.
Rund 60 % der Entwickler, die Cursor nutzen, wählen ein einzelnes Modell als ihr Standardmodell für den Alltag. Das bedeutet, dass Routineaufgaben zu Premiumpreisen ausgeführt werden und die KI-Ausgaben viel schneller steigen als die Ergebnisqualität. Ein First-Party-Modell wie Composer 2.5 kostet 0,50 pro Million Output-Token, während führende Modelle ein Vielfaches davon kosten. Wenn der Großteil des Volumens auf gewöhnliche Programmierarbeit entfällt, bestimmt das Standardmodell den größten Teil der Rechnung.
Die Branche ist bei derselben Antwort gelandet. Microsofts Foundry bietet einen Modell-Router mit den Modi Kosten, Ausgewogenheit und Qualität. Forschungssysteme wie RouteLLM berichten von deutlichen Kostensenkungen bei nahezu führender Qualität. Das zeigt sich gerade überall zugleich – und das heißt meist, dass die Mathematik dahinter schwer zu widerlegen ist.
Die Fragen, die du klären solltest, bevor du Routing verwendest
Wenn du Modell-Routing evaluierst, sind das die Punkte, die du zuerst klären solltest. Arbeite sie der Reihe nach durch.
Was ist ein Modell-Router?
Ein Modell-Router ist ein System, das zwischen dir und einer Reihe von Modellen geschaltet ist und auswählt, welches Modell jede Anfrage bearbeitet. Er liest die Anfrage (den Prompt, den Kontext, die Art der Aufgabe) und leitet sie an das Modell weiter, das die Aufgabe voraussichtlich am besten und zu den geringsten Kosten erledigt. Gute Router berücksichtigen den Aufgabentyp und die Komplexität, nicht nur die Länge. Schwache Router leiten nach einer groben Regel weiter und verfehlen dabei den eigentlichen Punkt.
Wie entscheidet das Routing, welches Modell verwendet wird?
Die besseren Systeme klassifizieren jede Anfrage, bevor überhaupt ein Modell zum Einsatz kommt. Cursor Router setzt beispielsweise für jede Anfrage einen Klassifikator ein – basierend auf Query, Kontext, Aufgabenkomplexität und Domäne, kombiniert mit seinem Wissen darüber, wie sich die einzelnen Modelle verhalten. UI-Arbeiten gehen an preisgünstige Modelle, Arbeiten an der Oberfläche an das Modell mit dem besten Gespür, und komplexe Probleme mit langem Horizont an führende Reasoning-Modelle. Die Klassifizierung erfolgt im Voraus, sodass die Wahl getroffen wird, bevor das teure Modell überhaupt aufgerufen würde.
Sollte Routing automatisch erfolgen oder sollten Ingenieur:innen weiterhin selbst wählen?
Beides, aber auf unterschiedlichen Ebenen. Die Entscheidung pro Anfrage sollte automatisch erfolgen, denn niemand möchte Hunderte Male am Tag ein Modell von Hand auswählen, und je nach Aufgabe fällt die richtige Wahl anders aus. Was Teams hingegen wollen, ist eine Möglichkeit, insgesamt festzulegen, wo sie beim Verhältnis zwischen Kosten und Qualität liegen. Üblicherweise gibt es dafür einige Modi (Kosten, Balance, Qualität), die das gesamte Team entlang dieser Kurve verschieben, während die Entscheidung für die einzelne Anfrage im Hintergrund getroffen wird.
Beeinträchtigt Routing die Qualität?
Das sollte nicht der Fall sein, wenn der Router an der Qualität gemessen wird und nicht nur an den Kosten. Modell-Routing behält schwierige Aufgaben bei den leistungsfähigsten Modellen und gibt nur einfache Aufgaben an weniger leistungsfähige Modelle ab. In Cursors A/B-Tests mit Millionen von Anfragen erreichte der Intelligence-Modus bei der Benutzerzufriedenheit nahezu das Niveau eines führenden Modells – bei rund 60 % niedrigeren Kosten. Enterprise-Kunden mit frühem Zugriff erzielten zudem Einsparungen von 30 bis 50 % gegenüber dem Routing aller Anfragen an das Top-Modell, ohne Einbußen bei der Qualität. Für die meisten Anfragen ist das Modell, das die Aufgabe gut erledigt, schlicht nicht das teuerste.
Was solltest du messen?
Behalte die Kosten pro Einheit tatsächlich geleisteter Arbeit im Blick, nicht nur die Kosten pro Anfrage. Das lässt sich anhand der Benutzerzufriedenheit (hat die Person das Ergebnis übernommen und weitergemacht oder ist sie zurückgegangen und hat es korrigiert?) und der Keep-Rate (wie viel des generierten Codes später noch in der Codebasis vorhanden ist) messen. Cursor nennt die Kosten pro Commit als entscheidende Kennzahl: in unseren Tests erreicht der Cursor Router 4,63 in Intelligence, gegenüber 7,34 $ für eine All-Opus-4.8-Baseline. Kosten pro Commit (oder pro PR) sind die Zahl, die du in ein Budgetgespräch mitnehmen solltest, weil sie Ausgaben direkt mit ausgelieferter Arbeit verknüpft.
Wie geht Routing mit Caching und Modellwechseln um?
Wenn im Verlauf einer Unterhaltung zwischen Modellen gewechselt wird, kann der Prompt-Cache verfehlt werden, was zusätzliche Kosten verursacht, die ein naiver Vorher-nachher-Vergleich nicht berücksichtigt. Cursor bezieht dies ein, indem es die Kosten für Cache-Fehlzugriffe durch seine Routing-Entscheidungen in den ausgewiesenen Einsparungen berücksichtigt. Wenn du einen Router bewertest, frag nach, ob seine Zahlen den Cache berücksichtigen. Wenn nicht, überschätzen sie die Einsparungen wahrscheinlich.
So nutzt du Modell-Routing in Cursor
Cursor Router ist das Modell-Routing-System hinter Auto in Teams- und Enterprise-Plänen. Du entscheidest, wie stark optimiert werden soll. Bei Balance und Intelligence wählt der Router für jede Anfrage das passende Modell aus.
Wähle einen Modus. Wähle im Modell Picker Auto aus und dann den Optimierungsmodus. Cost optimiert die Token-Ausgaben. Balance entspricht den führenden Modellen, die viele täglich nutzen, und Intelligence zielt auf erstklassige Qualität ab. Alle Auto-Modi werden zum Listenpreis des gerouteten Modells abgerechnet.
Lass es klassifizieren. Bei Balance und Intelligence analysiert der Router jede Anfrage und leitet sie je nach Aufgabentyp und Komplexität weiter. Anspruchsvolle Aufgaben bleiben auf den leistungsfähigsten Modellen, während Routineaufgaben aus der Preisklasse der führenden Modelle herausgeroutet werden. Grok 4.5 muss aktiviert sein, da der Router es als kosteneffiziente Option nutzt, wenn er kein führendes Modell verwendet.
Lege die Leitplanken fest (Admins). Aktiviere Router pro Team oder Gruppe, wähle aus, welche Modi Mitglieder nutzen können, lege den Standard fest und erlaube oder blockiere bestimmte Modelle. Für Teams-Pläne ist es standardmäßig aktiviert; Enterprise-Admins aktivieren es über das Dashboard.
Behalte die Zahlen im Blick. Verfolge die Nutzung im Nutzungs-Dashboard, um zu sehen, wie viel über die Modelle von Cursor im Vergleich zu anderen läuft, und bestätige, dass die Einsparungen tatsächlich real sind, bevor du den Rollout ausweitest.
Nächster Schritt: Aktiviere Auto im Modell Picker, wähle Balance oder Intelligence und folge dem vollständigen Setup unter cursor.com/docs/cursor-router. Admins können Router aktivieren und Leitplanken über das Team-Dashboard festlegen.
Das Modell auf die Aufgabe abstimmen
Modell-Routing funktioniert, weil das stärkste Modell für das meiste, was du tust, nur selten das richtige ist. Wenn du das Modell passend zur Aufgabe auswählst, hältst du die Qualität hoch und zahlst gleichzeitig deutlich weniger für Arbeit, für die von vornherein kein führendes Modell nötig war. Router, die wirklich etwas bringen, routen nach der tatsächlichen Aufgabenkomplexität, lassen schwierige Probleme bei leistungsfähigen Modellen und messen sich an den Kosten pro ausgelieferter Änderung. Wenn das zu der Arbeitsweise deines Teams passt, aktiviere Routing für ein stark ausgelastetes Team, beobachte eine Woche lang die Kosten pro Commit und lass diese Zahl dir zeigen, wie weit du das ausweiten solltest.