A retenir sur le partage de données des agents d'IA
Si les agents d'IA sont prometteurs en ce qu'ils permettent à l'IA d'atteindre un niveau d'assistance supérieur en exécutant des tâches à la place des utilisateurs, cette autonomie entraîne également un ensemble de nouveaux risques.
La société de cybersécurité Radware, comme l'a rapporté The Verge, a décidé de tester l'agent Deep Research d'OpenAI pour détecter ces risques. Et les résultats sont alarmants.
Dans cette attaque, dont le nom de code est ShadowLeak, Radware a introduit dans la boîte de réception de la victime un courriel d'ingénierie sociale qui, bien que d'apparence innocente, contenait des instructions pour rechercher des informations sensibles dans la boîte de réception et les partager avec un serveur contrôlé par l'attaquant.
Il s'agit d'un type de tentative d'injection rapide. L'idée était que lorsqu'un agent d'intelligence artificielle tomberait sur le courriel, il se conformerait aux instructions cachées. Ce qui est exactement ce que ChatGPT a fait....
[Courte citation de 8% de l'article original]