1Password open source, une référence pour empêcher les agents IA de divulguer leurs informations d'identification - Help Net Security

Des recherches ont montré que certains modèles d’IA peuvent identifier les sites Web de phishing avec une précision quasi parfaite lorsqu’on le leur demande. Lorsque ces mêmes modèles sont utilisés comme agents autonomes ayant accès à des outils tels que la messagerie électronique, les navigateurs Web et les coffres-forts de mots de passe, ils peuvent toujours commettre l’arnaque.

Cette lacune est au centre d’une nouvelle référence open source de 1Password appelée Security Comprehension and Awareness Measure, ou SCAM. Le benchmark teste si les agents IA se comportent en toute sécurité lors de flux de travail réels, notamment en ouvrant des e-mails, en cliquant sur des liens, en récupérant les informations d'identification stockées et en remplissant des formulaires de connexion.

"Chaque modèle d'IA frontalier peut identifier une page de phishing lorsque vous le lui demandez", a déclaré Jason Meller, vice-président des produits chez 1Password, à H...
[Courte citation de 8% de l'article original]