Le rapport International AI Safety est une enquête annuelle sur le progrès technologique et les risques qu’il crée dans plusieurs domaines, des deepfakes au marché du travail.
Commandé lors du sommet mondial sur la sécurité de l’IA en 2023, il est présidé par l’informaticien canadien Yoshua Bengio, qui décrit les « défis de taille » posés par les développements rapides dans le domaine. Le rapport est également guidé par des conseillers principaux, dont les lauréats du prix Nobel Geoffrey Hinton et Daron Acemoglu.
Voici quelques-uns des points clés du deuxième rapport annuel, publié mardi. Il souligne qu'il s'agit d'un document faisant le point sur la situation plutôt que d'un moyen permettant de formuler des recommandations politiques spécifiques aux gouvernements. Néanmoins, cela contribuera probablement à encadrer le débat pour les décideurs politiques, les dirigeants du secteur technologique et les ONG qui participeront au prochain sommet mondial sur l’IA en Inde ce mois-ci.
1. Les capacités des modèles d’IA s’améliorent
Une multitude de nouveaux modèles d’IA – la technologie qui sous-tend des outils comme les chatbots – ont été lancés l’année dernière, notamment le GPT-5 d’OpenAI, Claude Opus 4.5 d’Anthropic et Gemini 3 de Google. Le rapport souligne de nouveaux « systèmes de raisonnement » – qui résolvent les problèmes en les décomposant en étapes plus petites – montrant des performances améliorées en mathématiques, en codage et en sciences. Bengio a déclaré qu’il y avait eu un « bond très significatif » dans le raisonnement de l’IA. L’année dernière, les systèmes développés par Google et OpenAI ont obtenu une performance de niveau or aux Olympiades mathématiques internationales – une première pour l’IA.
Cependant, le rapport indique que les capacités de l’IA restent « irré...
[Courte citation de 8% de l'article original]