Votre agent IA peut écrire du code, naviguer sur le Web et exécuter des commandes shell. Mais demandez-lui ce qui se passe actuellement sur sa propre machine – quels services sont en cours d'exécution, quelles erreurs viennent de se déclencher, si le disque est plein à 90 % – et il n'en a aucune idée. Il a des mains mais pas d'yeux.
Il s’agit du défaut central de la conception d’agents axés sur les objectifs : l’agent planifie et exécute sur la base d’une invite statique, aveugle à son environnement réel. AutoGPT a culminé à plus de 180 000 étoiles GitHub faisant exactement cela – et est tombé dans des boucles infinies car il pouvait agir sur le monde mais ne pouvait pas le voir.
Il existe une alternative : la conception axée sur la perception. Au lieu de commencer par des objectifs, commencez par ce que l’agent peut observer. Laissez l’environnement dire à l’agent quoi faire.
Voici une boucle d'agent typique axée sur les objectifs :
Objectif → Planifier → Exécuter → Vérifier si c'est fait → RépéterRemarquez ce qui manque : l'environnement. L'agent démarre à partir d'une invite, planifie dans le vide et vérifie son propre résultat, mais ne regarde jamais autour de lui.
LA PERCEPTION AXÉE SUR L'OBJECTIF D'ABORD ┌──────────┐ │ Invite │ ┌─────────────────────┐ └────┬─────┘ │ Environnement │ │ │ disque git docker │ ▼ └─────────┬───────────┘ ┌──────────┐ │ │ Plan │ ┌─────────▼──────────┐ └────┬─────┘ │ Percevoir │◀─┐ │ └─────────┬──────────┘ │ ▼ ▼ │ ┌──────────┐ Orienter │ │ Exécuter │ │ │ └────┬─────┘ ▼ │ │ Décider │ ▼ │ │ ┌──────────┐ ▼ │ │ Terminé ? │──Non──┐ Agir (ou rester silencieux) ────┘ └────┬─────┘ │ Oui │ ▼ │ [Stop] ◀────────┘Le côté gauche n’a aucune contribution environnementale à aucun moment. Le côté droit commence et se termine par l'environnement : il s'agit d'un cycle continu et non d'un pipeline linéaire.
Le problème ne réside pas dans le plan ou dans l'exécution. C'est que l'agent élabore son plan sur la base d'une invite statique, aveugle à ce qui se passe réellement. Au moment où il agira, le monde aura peut-être changé. Au moment de la vérification, il compare son action à un modèle obsolète.
Posez-vous la question : que sait réellement votre agent de son environnement à l’heure actuelle ? Ce n’est pas ce qui a été dit. Ce n'est pas ce qu'il a lu dans un fichier de configuration il y a une heure. Pour la plupart des agents, la réponse est : presque rien.
En 1934, le biologiste germ...
[Courte citation de 8% de l'article original]