Comment j'ai créé une couche de mémoire locale pour les agents IA et pourquoi les coffres-forts ont tout changé

Tous les projets sérieux sur lesquels j'ai travaillé avec des agents LLM finissent par se heurter au même mur.

L'agent est intelligent. Ça raisonne bien. Il suit les instructions. Mais chaque nouvelle session repart de zéro, sans aucun souvenir de ce qui s'est passé auparavant, sans contexte des exécutions précédentes, sans aucune connaissance acquise au fil du temps.

La solution naïve consiste à tout intégrer dans l’invite du système. Cela fonctionne jusqu'à ce que ce ne soit plus le cas : les fenêtres contextuelles se remplissent, les coûts augmentent et vous sélectionnez manuellement ce que vous souhaitez inclure à chaque fois. La solution légèrement moins naïve est RAG : récupérez les morceaux pertinents avant chaque appel. Mieux, mais vous avez maintenant un problème de récupération en plus de votre problème d'agent et un seul magasin de vecteurs partagés que chaque agent lit sans discernement.

J'ai construit CtxVault parce que je voulais...
[Courte citation de 8% de l'article original]