Chaque framework d'agent AI fait confiance à l'agent. C'est le problème.

DEV - 18/02
Chaque framework d'agent IA fait confiance à l'agent. LangChain. Génération automatique. ÉquipageAI. Utilisation d’outils anthropiques. OpenAI...

Chaque framework d'agent IA fait confiance à l'agent.

LangChain. Génération automatique. ÉquipageAI. Utilisation d’outils anthropiques. Appel de fonction OpenAI. Chacun.

Ils valident les résultats. Ils filtrent les réponses. Ils définissent les outils. Mais aucun d’eux ne répond à une question fondamentale : qui a autorisé cet agent à agir ?

J'ai passé 30 ans à créer des logiciels. L’année dernière m’a convaincu qu’il s’agit du problème non résolu le plus important dans l’infrastructure de l’IA aujourd’hui.

L'écart dont personne ne parle

J'ai parcouru tous les principaux cadres d'agents d'IA et systèmes d'autorisation. Voici ce que j'ai trouvé :

SystèmeAnnéeCe que ça faitModèle d'autorisation
Appel de fonction OpenAI2023LLM appelle des fonctions prédéfiniesAucun. Si la fonction existe, l'agent peut l'appeler.
Outils LangChain2023Routage des outils d'agentAucun. Pas d'approbation intégrée, pas de budget, pas de seuil.
Utilisation d'outils anthropiques2024Exécution d’outils contrainteCôté fournisseur uniquement. Pas au niveau de l’infrastructure.
Microsoft AutoGen2023Orchestration multi-agentsLes agents se font confiance. Pas de modèle contradictoire.
ÉquipageAI2024Cadre de tâches multi-agentsPas d'authentification de seuil. Aucune propriété formelle.
IA des garde-corps2023Validation des sortiesValide les résultats, pas l’autorité d’agir.

Pas un seul ne met en œuvre une autorisation de seuil, des jetons de budget consommables ou une vérification...
[Courte citation de 8% de l'article original]