Une faille RoguePilot dans les espaces de codes GitHub a permis au copilote de fuir GITHUB_TOKEN

The Hacker News - TheHackerNews - 24/02
La faille RoguePilot a permis à GitHub Copilot de divulguer GITHUB_TOKEN, tandis que de nouvelles études exposent les canaux secondaires LLM, les portes dérobées ShadowLogic et les risques liés aux promptwares.

Une vulnérabilité dans GitHub Codespaces aurait pu être exploitée par de mauvais acteurs pour prendre le contrôle des référentiels en injectant des instructions Copilot malveillantes dans un problème GitHub.

La vulnérabilité basée sur l'intelligence artificielle (IA) a été nommée RoguePilot par Orca Security. Il a depuis été corrigé par Microsoft suite à une divulgation responsable.

"Les attaquants peuvent créer des instructions cachées dans un problème GitHub qui sont automatiquement traitées par GitHub Copilot, leur donnant ainsi un contrôle silencieux de l'agent IA dans les espaces de code", a déclaré le chercheur en sécurité Roi Nisimi dans un rapport.

La vulnérabilité a été décrite comme un cas d'injection d'invite passive ou indirecte dans laquelle une instruction malveillante est intégrée dans des données ou du contenu traité par le grand modèle de langage (LLM), ce qui l'amène à produire des sorties involontaires ou à effectuer des actions arbitraires.

La société de sécurité cloud a également qualifié cela de type d'attaque de chaîne d'approvisionnement médiée par l'IA qui incite le LLM à exécuter automatiquement des instructions malveillantes intégrées dans le contenu du développeur, dans ce cas, un problème GitHub.

L'attaque commence par un problème GitHub malveillant qui d...
[Courte citation de 8% de l'article original]