Sécuriser les systèmes d'IA agentiques

Au cours de la dernière année, nous n'avons pas entendu parler de l'IA génératrice, sans entendre des termes tels que l'agent AI, les agents de l'IA, le MCP et le protocole récemment A2A. Lorsque vous construisez des systèmes d'IA agentiques (qu'il s'agisse d'un seul agent d'IA ou d'agents multiples communiquant les uns avec les autres), car la technologie évolue toujours, nous devons être conscients des menaces de sécurité, concevoir en conséquence et intégrer des contrôles de sécurité pour atténuer les risques potentiels. L'IA agentique diffère de l'IA générative en ce qu'elle agit de manière autonome pour effectuer des tâches complexes et en plusieurs étapes vers un objectif avec une direction humaine minimale, tandis que l'IA générative répond à des invites spécifiques en créant du contenu comme du texte ou des images mais s'arrête là-bas; Cependant, cette autonomie introduit de nouveaux risques de sécurité tels que les agents manipulés par des injections rapides pour agir contre les intentions, l'abus d'outils où les systèmes intégrés sont exploités et les agents exagérés effectuant des actions non autorisées, l'empoisonnement de la mémoire qui corrompt la prise de décision à long terme, le cadre d'identité d'identité permettant aux attaquants d'imposer les agents et de communiquer la communication pour perturber la collaboration multi-agreuse. Ce billet de blog explique l'agent AI et fournit des recommandations pour le sécuriser.

Terminologie

Avant de plonger en profondeur dans ce billet de blog, passons en revue les termes communs:

• AI-AI - L'IA agentique est un système intelligent qui peut fonctionner seul, prenant des décisions et résolvant des problèmes étape par étape sans avoir besoin d'instructions constantes des personnes.
• Agent AI - Un agent d'IA est comme une aide numérique intelligente qui peut comprendre son environnement, prendre des décisions et prendre des mesures à part entière pour effectuer des tâches ou atteindre des objectifs sans avoir besoin que quelqu'un se dise constamment quoi faire.
• L'agent agentique par rapport à l'agent AI - L'A de l'agentique est l'ensemble du système d'autogestion construit à partir d'un ou plusieurs agents d'IA travaillant vers des objectifs spécifiques.
• MCP (Model Context Protocol) - Un langage commun qui aide les programmes AI à se connecter facilement et en toute sécurité avec d'autres outils et sources de données, afin qu'ils puissent mieux comprendre le contexte et effectuer des tâches utiles sans avoir besoin de configurations personnalisées spéciales pour chaque connexion.
• Protocole A2A (agent à l'agent) - Un ensemble simple de règles qui permettent aux agents de l'IA de parler et de travailler ensemble et en toute sécurité, en les aidant à partager des tâches et des informations sans confusion.

Paysage de menace

Les systèmes d'IA agentiques souffrent de diverses menaces de sécurité. Voici une liste courante des menaces de sécurité que nous devons connaître lors de la construction de systèmes d'IA agentiques:

• Injection rapide et manipulation d'objectifs: les attaquants insèrent des instructions malveillantes qui modifient le comportement de l'IA ou les agents orientés vers des actions nuisibles.
• Escalade des privilèges et agents surpoyés: les agents héritent ou obtiennent des autorisations excessives, permettant des activités non autorisées ou destructrices.
• Utilisation abusive des outils et exploitation API: utilisation malveillante d'outils ou d'API intégrés pour déclencher des opérations involontaires ou nocives.
• Authentification et usurpation d'identité: les informations d'identification faibles ou volées permettent aux attaquants d'identifier les agents ou les utilisateurs, à gagner un accès non autorisé.
• Exposition des données et accès aux données non autorisées: fuite d'informations sensibles en raison de contrôles d'accès ou de mécanismes de récupération inappropriés.
• Empoisonnement de la communication de l'agent: les attaquants manipulent la messagerie entre les agents, perturbent les flux de travail ou diffusent de fausses informations.
• Épuisement des...
  [Courte citation de 8% de l'article original]