MARL : un middleware d'exécution qui réduit les hallucinations LLM sans réglage fin

TL;DR — MARL (Model-Agnostic Runtime Middleware for LLMs) est un middleware qui insère un pipeline d'auto-vérification en plusieurs étapes au moment de l'exécution pour réduire les hallucinations — sans toucher aux poids du modèle. Changer une ligne (base_url) et il fonctionne instantanément avec n'importe quel LLM compatible avec l'API OpenAI : GPT-5.4, Claude, Gemini, Llama, et plus encore.pip installer marl-middleware

• 🤗 Démo : VIDraft/MARL
• 📦 PyPI : marl-middleware
• 🐙 GitHub : Vidraft/MARL
• 🦀 ClawHub : marl-middleware

Motivation : l'écart métacognitif (écart MA-ER)

MMLU a franchi les 90%. GPQA sature. HumanEval a atteint son plafond. Pourtant, chacun de ces benchmarks partage un point aveugle commun : aucun d’entre eux n’a jamais mesuré si l’IA était capable de reconnaître ses propres erreurs et de les corriger.

La psychologie cognitive appelle cette capacité métacognition – la capacité de savoir ce que l’on sait et ce que l’on ne sait pas. C’est la véritable ligne de démarcation entre les experts humains et les novices, et une condition préalable à l’AGI.

En février 2026, nous avons publié FINAL Bench, le premier benchmark au monde dédié à la mesure de la métacognition de l'IA. Nous avons évalué 9 modèles de pointe (GPT-5.2, Claude Opus 4.6, Gemini 3 Pro et autres) sur 1 800 évaluations. Les résultats ont été frappants :

Les modèles d’IA sentent qu’ils peuvent se tromper, mais ils ne peuvent pas réellement réparer ce qui est cassé.

La cause structurelle est claire. Les LLM actuels sont autorégressifs : une fois la génération de token démarrée, chaque token est conditionné par les précédents. Le modèle ne peut pas s’arrêter à mi-parcours et dire « attendez, j’avais tort ». Si le cadrage initial est défectueux, il suit cette trajectoire jusqu’au bout – et c’est exactement pourquoi les hallucinations sont générées avec une grande confiance.

MARL a été conçu pour résoudre ces deux limitations.

Architecture de base : pipeline d'auto-vérification multi-agents

MARL décompose un seul appel LLM en plusieurs rôles de spécialiste indépendants disposés dans un pipeline :

Requête utilisateur │ ▼ ┌───────────────────────── ──────────────────────────┐ │ S1 : Hypothèse — Conçoit un...
[Courte citation de 8% de l'article original]