Les risques de sécurité de l'IA sont également culturels et développementaux - Help Net Security

Anamarija Pogorelec - HelpNetSecurity - 05/01
Les risques liés à la gouvernance de la sécurité de l’IA augmentent à mesure que les préjugés culturels et les écarts de développement façonnent la manière dont les systèmes d’IA échouent, se présentent sous forme de fausses représentations et créent une exposition systémique.

Les équipes de sécurité passent une grande partie de leur temps à suivre les vulnérabilités, les modèles d'abus et les pannes du système. Une nouvelle étude affirme que de nombreux risques liés à l’IA sont plus profonds que les défauts techniques. Les hypothèses culturelles, le développement inégal et les lacunes dans les données déterminent le comportement des systèmes d’IA, les domaines dans lesquels ils échouent et qui absorbe les dommages.

La recherche a été réalisée par un grand groupe international de chercheurs issus d'universités, d'instituts d'éthique et d'organismes politiques, notamment l'Université Ludwig Maximilian de Munich, l'Université technique de Munich et l'Union africaine. Il examine l’IA à travers le droit international des droits de l’homme, avec un intérêt direct pour les responsables de la sécurité responsables du déploiement de l’IA dans les régions et les populations.

Les systèmes d’IA véhiculent des hypothèses cachées

L’étude révèle que les systèmes d’IA intègrent des hypothèses culturelles et développementales à chaque étape de leur cycle de vie. Les données de formation reflètent les langues do...
[Courte citation de 8% de l'article original]