Que doit faire l'État des réseaux de neurones

Ces derniers mois, le public a activement débattu des opportunités et des risques du développement de l'intelligence artificielle (IA), en particulier des réseaux de neurones génératifs. Les sensationnels GPT-4 et MidJourney sont capables de développer du code, d'écrire des critiques et de répondre aux questions, de dessiner des images. Cependant, les experts n'ont pas d'opinion commune sur la manière dont les réseaux de neurones vont se développer davantage et, par conséquent, sur la manière de les réglementer. La palette d'opinions est vaste - du très pragmatique au futurologique brillant, à la fois positif et négatif.

Parlons d'abord de l'alarmisme. En 2015, le philosophe Nick Bostrom présentait cette analogie : toute invention est une boule de billard que l'humanité sort aveuglément d'un sac. Il y a des boules blanches - des inventions conditionnellement utiles, telles que l'écriture, la pénicilline, le moteur à combustion interne et Internet. Il y a des boules rouges - des inventions dangereuses qui peuvent faire beaucoup de mal, parmi lesquelles la poudre à canon, les armes nucléaires, l'édition génétique de virus mortels. Enfin, les boules noires sont des inventions après lesquelles la vie sur Terre s'arrêtera complètement. Parmi les technologies imaginables qui peuvent devenir des boules noires, deux sont connues à ce jour - la forte intelligence artificielle du philo...
[Courte citation de 8% de l'article original]