Nick Bostrom, Musk and Gates's Favorite Philosophe: L'IA et l'avenir de l'humanité

La possibilité qu'une superintelligence artificielle transforme radicalement la société - ou même menace l'existence humaine - a cessé d'être une spéculation lointaine pour devenir un débat central parmi les leaders technologiques et philosophiques de notre temps. Le philosophe Nick Bostrom, dont les idées ont influencé des personnalités telles qu'Elon Musk et Bill Gates, soutient que le développement de l'intelligence artificielle générale (AGI) pourrait ouvrir les deux scénarios de prospérité non publiée et de risques existentiels d'une magnitude sans précédent.

Depuis la publication de 2014 de Superintelligence: Paths, Dangers, Strategies, Bostrom a mis en garde contre le danger d'une IA avancée, si elle n'est pas soigneusement alignée sur les valeurs humaines, peut agir sous des formes catastrophiques. La célèbre expérience mentale du «Clips Maximizer», proposée par Bostrom, illustre ce risque: une IA responsable de l'optimisation de la production de clips pourrait, en l'absence de restrictions éthiques, pour utiliser tou...
[Courte citation de 8% de l'article original]