Comment installer un « garde-corps IA » pour un agent intelligent ? Nvidia propose 3 nouveaux microservices

Selon Leifeng.com (compte public : Leifeng.com), des chercheurs de l'Université de New York ont ​​découvert que si 0,001 % des données de formation pour un modèle de langage donné sont « empoisonnées » (c'est-à-dire intentionnellement implantées avec des informations erronées), alors le l'ensemble de la formation sera susceptible de se propager.

L'« empoisonnement » des données affecte les résultats de la formation, et la sécurité est également cruciale pour le déploiement effectif de l'IA.

Le cabinet de conseil Gartner prédit que d’ici 2028, les agents IA prendront au moins 15 % des décisions professionnelles quotidiennes et seront appliqués à 33 % des programmes d’entreprise. Le grand nombre de demandes pour le développement d’agents d’IA rend encore plus urgent pour les entreprises de résoudre des problèmes tels que la confiance, la sécurité physique, la sécurité des réseaux et la conformité.

Récemment, NVIDIA a publié un nouveau microservice NIM pour garantir la sécurité des applications d'IA basées sur des agents, ce qui éliminera les problèmes de sécurité lorsque les entreprises déploient l'IA générative et fournira des garanties de sécurité pour la vulgarisation de l'IA générative.

Les nouveaux microservices NIM font partie de la famille d'outils logiciels NeMo Guardrails. Ces microservices d'inférence portables et optimisés peuvent aider les entreprises à améliorer la sécurité, la précision et l'évolutivité des applications d'IA générative.

3 microservices NIM, prenant en compte une haute sécurité et une faible latence

NVIDIA NeMo Guardrails est une boîte à outils open source qui permet aux dévelo...
[Courte citation de 8% de l'article original]