Application du format de sortie pour les agents : schéma JSON ou cela ne s'est pas produit

J'avais un flux multi-agent propre : Routeur -> Planificateur -> Tool Worker -> Finaliseur. Cela avait l'air solide comme un roc dans le développement.

Puis la production a commencé.

Une réponse est revenue comme suit :Bien sûr! { "itinéraire": "PLAN", }(oui, virgule finale). Mon analyseur est tombé en panne, le planificateur est devenu indésirable et le finaliseur a expédié des bêtises en toute confiance.

Le pire ? Le modèle pensait avoir réussi.

Ce jour-là, j’ai appris : une architecture propre n’a pas d’importance si vos résultats ne sont pas exécutoires. Si vous ne pouvez pas faire confiance à la forme des données, vos agents improvisent.

Cadrage du problème : pourquoi cela échoue en production

Les LLM sont utiles par défaut, non conformes par défaut.

Dans un système multi-agents, la dérive de sortie se manifeste généralement par :

• Texte supplémentaire enroulé autour de JSON (« Et voilà : … »)
• De nouvelles clés que vous n’avez pas demandées (« confiance », « notes », « explication »)
• Tapez drift (chaîne au lieu d'un tableau, nombre au lieu d'une chaîne)
• Half-JSON (accolades manquantes, virgules finales)
• Échec silencieux (l'agent renvoie une prose plausible alors qu'il devrait revenir"statut": "inconnu")

Une fois qu’un agent renvoie une structure malformée, le reste du pipeline se transforme en relai...
[Courte citation de 8% de l'article original]