L'intégration omniprésente de l'intelligence artificielle (IA) et de l'apprentissage automatique (ML) dans presque toutes les facettes de la vie moderne a apporté une innovation et une efficacité sans précédent. Cependant, cette adoption généralisée expose également les vulnérabilités critiques, en particulier concernant la sécurité et la confidentialité des données et des modèles sous-jacents. Les charges de travail AI / ML, de par leur nature même, gèrent de grandes quantités d'informations sensibles - des données commerciales propriétaires et de la propriété intellectuelle intégrée dans des modèles à des données utilisateur hautement personnelles utilisées pour la formation et l'inférence.
Les vecteurs d'attaque courants sur les systèmes d'IA sont divers et sophistiqués. Pendant la phase de formation, l'exfiltration des données est une préoccupation importante. Les acteurs malveillants pourraient tenter de voler ou de falsifier les ensembles de données sensibles utilisés pour former des modèles, conduisant à une confidentialité compromise, à des inconvénients compétitifs ou même à l'injection de données biaisées ou nocives. Le vol du modèle est une autre vulnérabilité critique; Les modèles d'IA propriétaires, représentant des années de recherche et des investissements importants, peuvent être volés et inversés, entraînant une perte de propriété intellectuelle. De plus, une fois déployés, les modèles d'IA sont sensibles aux attaques contradictoires pendant l'inférence, où les données d'entrée subtilement manipulées peuvent provoquer un modèle à mal classer ou se comporter de façon inattendue, ce qui a potentiellement conduit à des décisions incorrectes dans des applications critiques telles que les véhicules autonomes ou les diagnostics médicaux. Le modèle traditionnel de cloud computing, où les données sont traitées dans des environnements accessibles au fournisseur d'infrastructure sous-jacent, à l'hyperviseur et à d'autres locataires, exacerbe ces risques, car il introduit des points de compromis potentiels supplémentaires.
L'informatique confidentielle apparaît comme une solution ...
[Courte citation de 8% de l'article original]