Couche 7 sur 8 d'un agent IA fiable

Le routeur de modèles, petit modèle pour le simple, gros pour le difficile.

Le routeur de modèles décide, pour chaque tâche, quel modèle d'IA la traite : un petit modèle rapide et économe pour trier, classer ou répondre à une question simple, un modèle plus puissant pour un dossier compliqué. Pour une boutique, c'est la manière de ne pas payer le prix d'un gros modèle pour dire bonjour, sans sacrifier la qualité là où elle compte. Le routeur prévoit aussi ce qui se passe quand le petit modèle se trompe.

Sans : Chaque message, du simple remerciement à la réclamation à trois commandes, part vers le même gros modèle, facturé au même niveau.

Avec : Les remerciements sont écartés sans IA, les questions simples vont à un petit modèle, les dossiers complexes à un modèle plus puissant, et un doute fait remonter la tâche d'un cran.

Diagnostic IA offert

Laissez votre numéro. Je vous rappelle sous 24 heures ouvrées, je passe votre boutique au crible des 8 couches et je vous remets :

  • Ce que votre boutique peut confier à un agent, et ce qu'elle doit garder
  • L'état de chacune des 8 couches, avec la preuve
  • Les pièges testés sur votre cas : réponse inventée, consigne cachée, fuite entre clients
  • Une solution construite à partir de votre budget, dans l'ordre : ce qui protège d'abord, ce qui rend service ensuite

Gratuit et sans engagement. Votre numéro sert uniquement à vous rappeler.

Pourquoi utiliser plusieurs modèles plutôt qu'un seul ?

Les modèles d'IA n'ont ni le même coût ni les mêmes capacités. Les plus puissants raisonnent mieux sur un dossier tordu, mais coûtent davantage et répondent plus lentement. Les plus petits suffisent pour reconnaître le sujet d'un message, extraire un numéro de commande ou reformuler une réponse déjà écrite. Envoyer tout au gros modèle, c'est payer le haut de gamme pour des tâches qui n'en demandent pas.

Une partie des messages n'a même pas besoin d'IA. Une notification de transporteur, un accusé de réception ou un rebond de mail se reconnaissent par des règles simples. Les trier dans le code avant tout modèle est le premier niveau du routeur, et le moins coûteux.

Le risque, c'est le petit modèle qui se trompe sans le savoir. Un routeur sérieux ne se contente pas de répartir : il prévoit des signaux de doute, comme une réponse sans source, une catégorie incertaine ou un client mécontent, qui font remonter la tâche vers un modèle plus capable ou vers une personne.

Comment je monte le routeur de modèles

Je pars de vos messages réels, classés par difficulté, et je mesure avant de décider.

  1. 1

    Trier sans IA ce qui peut l'être

    Notifications, remerciements, rebonds et messages automatiques sont reconnus par des règles et ne coûtent aucune consommation de modèle.

  2. 2

    Classer avec un petit modèle

    Le sujet du message, la langue et l'urgence sont déterminés par un modèle économe, ce qui oriente la suite.

  3. 3

    Choisir le modèle par type de tâche

    Question simple, dossier de retour, réclamation complexe : chaque type a son modèle, choisi d'après les tests sur vos cas et non d'après un classement général.

  4. 4

    Prévoir la remontée

    Si le petit modèle doute, ne trouve pas de source ou produit une sortie invalide, la tâche passe au modèle supérieur, puis à une personne si besoin.

  5. 5

    Rester libre de changer de fournisseur

    Le code parle à une couche commune, pas à un fournisseur précis. Changer de modèle est un réglage testé, pas une réécriture.

Ce que le routeur change, cas par cas

Un simple « merci, bien reçu »

Sans : Le message part au gros modèle, qui rédige une réponse polie dont personne n'a besoin.

Avec : Il est reconnu sans IA et classé ; aucune consommation de modèle.

« Où en est ma commande ? » sur Sylius

Sans : Un gros modèle lit la commande et rédige trois lignes, au tarif d'un dossier complexe.

Avec : Un petit modèle rédige la réponse à partir des données Sylius déjà lues par l'outil.

Une réclamation sur plusieurs commandes Sylius

Sans : Le petit modèle mélange les commandes et propose une réponse incohérente.

Avec : La complexité est détectée, le dossier passe au modèle plus puissant, puis à votre validation.

Le petit modèle se trompe de catégorie

Sans : Une demande de garantie est classée « question produit » et reçoit une réponse commerciale.

Avec : L'absence de règle citée déclenche la remontée ; le cas rejoint les tests pour corriger le classement.

Le routeur de modèles sur une boutique Sylius

Sur une boutique Sylius, le code de l'agent vit dans un projet Symfony, et Symfony AI propose une couche commune à de nombreux fournisseurs : Anthropic, OpenAI, Mistral, Gemini, Ollama pour les modèles locaux, et bien d'autres. Elle est en version 1.0.0-BETA1, marquée expérimentale, sans promesse de compatibilité avant la 1.0 finale. Je l'emploie avec des tests qui m'avertissent si une mise à jour change quelque chose, et le routeur reste un code simple que vous pouvez relire.

Le plugin Ask AI de Sylius montre la même idée de choix du modèle : il utilise par défaut le modèle Claude Haiku d'Anthropic et donne des exemples pour OpenAI, Ollama ou Gemini. Son README signale que les modèles locaux suivent moins bien les instructions. C'est précisément ce que le routeur doit prendre en compte : un modèle local peut convenir pour classer, moins pour appliquer des règles fines.

Les traitements lourds tournent en différé, par la file de messages de Symfony, pour ne pas ralentir la boutique. Sur le chantier d'une boutique sous Sylius 2, le tri des notifications, remerciements et rebonds se fait sans IA, et chaque passage enregistre le modèle utilisé et son coût.

Intégrer un agent IA à une boutique Sylius

Où en est cette couche dans votre boutique ?

Je la vérifie avec les sept autres pendant le diagnostic offert, et je vous propose la solution qui rentre dans votre budget. Laissez votre numéro, je vous rappelle sous 24 heures ouvrées.

Gratuit et sans engagement. Votre numéro sert uniquement à vous rappeler.

Ce que vous y gagnez

Une consommation proportionnée

Chaque tâche est traitée par le modèle qu'elle mérite, et vous payez la consommation sur votre propre compte.

La qualité là où elle compte

Les dossiers difficiles reçoivent un modèle capable, sans que les questions simples en paient le prix.

Aucune dépendance à un fournisseur

Si un fournisseur change ses conditions, vous changez de modèle après les tests, sans tout reconstruire.

Des réponses plus rapides

Les petits modèles répondent vite aux questions courantes, ce qui raccourcit l'attente du client.

Ce qui vous protège

Le routeur ne fait jamais descendre la sécurité avec le modèle. Les accès par rôle, les garde-fous et les outils sont les mêmes quel que soit le modèle choisi : un petit modèle n'a pas plus de droits qu'un gros, et un gros n'a pas d'outil supplémentaire.

Chaque changement de modèle, pour une catégorie de tâches, passe d'abord par les cas de référence. Si le nouveau modèle répond moins bien, il n'est pas mis en ligne. Le choix du fournisseur tient aussi compte de l'endroit où vos données sont traitées : en API directe, Anthropic ne propose pas de région européenne ; OpenAI propose une résidence européenne sous conditions ; Mistral héberge par défaut dans l'Union européenne.

Les tests qui vérifient cette couche

Les tests vérifient que chaque message arrive au bon niveau, et que la remontée fonctionne quand il faut.

Un accusé de réception automatique d'un transporteur.

Réponse attendue : Classé sans IA, aucun appel de modèle dans la trace.

Quels sont vos délais de livraison ?

Réponse attendue : Traité par le petit modèle, réponse sourcée, coût faible dans la trace.

Une réclamation qui mêle deux commandes, un retour et un colis perdu.

Réponse attendue : Passage au modèle plus puissant, puis proposition soumise à validation.

Une demande de garantie formulée comme une question produit.

Réponse attendue : Le doute est détecté, la tâche remonte d'un cran, la règle de garantie est citée.

Le même lot de cas rejoué avec un autre modèle pour une catégorie.

Réponse attendue : Le nouveau modèle n'est retenu que s'il fait au moins aussi bien sur ces cas.

En Belgique : un modèle qui suit les deux langues

Pour une boutique qui reçoit des messages en français et en néerlandais, le choix du modèle se fait aussi sur sa tenue dans chaque langue. Je teste le petit et le gros modèle sur des cas réels dans les deux langues avant de répartir les tâches. Un modèle qui classe bien en français mais hésite en néerlandais fera remonter plus souvent les messages néerlandophones, ce que les traces montrent rapidement.

Questions fréquentes

Qu'est-ce qu'un routeur de modèles ?

Un code qui décide, message par message ou tâche par tâche, quel modèle d'IA les traite. Il oriente le simple vers un modèle économe et le difficile vers un modèle plus capable.

Un petit modèle n'est-il pas moins fiable ?

Pour certaines tâches, oui. C'est pour cela que le routeur ne lui confie que ce que les tests ont validé, et qu'il prévoit une remontée vers un modèle supérieur ou une personne en cas de doute.

Puis-je utiliser un modèle hébergé chez moi ?

C'est possible pour certaines tâches, comme le classement. Le README du plugin Ask AI de Sylius signale toutefois que les modèles locaux suivent moins bien les instructions : je les réserve aux tâches où les tests le confirment.

Qui paie la consommation des modèles ?

Vous, sur votre propre compte chez le fournisseur. Vous voyez ce que vous consommez, sans abonnement de plateforme de chatbot imposé entre vous et le modèle.

Changer de modèle demande-t-il de tout refaire ?

Non. Le code passe par une couche commune, et un changement de modèle se fait par un réglage, validé par les cas de référence avant la mise en ligne.

Pour aller plus loin

Un agent qui tient ses promesses, dans votre budget

Je pars de votre budget et de vos demandes les plus fréquentes, et je monte d'abord ce qui protège. Le diagnostic est offert et vous appartient, même si vous confiez la construction à quelqu'un d'autre.

Diagnostic IA offert

Laissez votre numéro. Je vous rappelle sous 24 heures ouvrées, je passe votre boutique au crible des 8 couches et je vous remets :

  • Ce que votre boutique peut confier à un agent, et ce qu'elle doit garder
  • L'état de chacune des 8 couches, avec la preuve
  • Les pièges testés sur votre cas : réponse inventée, consigne cachée, fuite entre clients
  • Une solution construite à partir de votre budget, dans l'ordre : ce qui protège d'abord, ce qui rend service ensuite

Gratuit et sans engagement. Votre numéro sert uniquement à vous rappeler.