Le débat sur l’IA se déroule dans un cocon

La plupart du temps, les discussions sur l’intelligence artificielle sont très éloignées des réalités de la manière dont elle est utilisée dans le monde d’aujourd’hui. Plus tôt cette année, les dirigeants d'Anthropic, de Google DeepMind, d'OpenAI et d'autres sociétés d'IA ont déclaré dans une lettre commune que « l'atténuation du risque d'extinction de l'IA ne devrait pas être évitée ». devrait être une priorité mondiale aux côtés d’autres risques à l’échelle sociétale, tels que les pandémies et la guerre nucléaire. À l’approche du sommet sur l’IA qu’il a récemment convoqué, le Premier ministre britannique Rishi Sunak a averti que « l’humanité pourrait perdre complètement le contrôle de l’IA ». Les risques existentiels – ou risques X, comme on les appelle parfois dans les cercles de l’IA – évoquent des films de science-fiction à succès et répondent aux peurs les plus profondes de nombreuses personnes.

Lire : Le doomerism de l’IA est un leurre

Mais l’IA pose déjà des menaces économiques et physiques, qui nuisent de manière disproportionnée aux personnes les plus vulnérables de la société. Certaines personnes se sont vu refuser à tort une couverture médicale ou ont été placées en détention sur la base d’algorithmes censés prédire la criminalité. La vie humaine est explicitement en jeu dans certaines applications de l’intelligence artificielle, telles que les systèmes de sélection de cibles basés sur l’IA, comme ceux utilisés par l’armée israélienne à Gaza. Dans d’autres cas, les gouvernements et les entreprises ont utilisé l’intelligence artificielle pour priver de pouvoir les membres du public et dissimuler leurs propres motivations de manière subtile : dans des systèmes de chômage conçus pour intégrer des politiques d’austérité ; dans les systèmes de surveillance des travailleurs destinés à éroder l’...
[Courte citation de 8% de l'article original]