Routage de modèles : le bon modèle, pour la bonne tâche, au bon prix

Le routage de modèles envoie chaque requête vers le modèle le plus adapté, pour que les tâches courantes ne soient plus facturées au prix des modèles de pointe. Son fonctionnement, les métriques à suivre et comment le mettre en place.
8 min de lecture