Il est devenu un penseur de référence mondial avec des livres comme Sapiens ou 21 leçons pour le 21e siècle et revient maintenant avec Nexus (Debate / Edicions 62), une histoire des réseaux d'information depuis l'âge de pierre jusqu'à cette IA qui, dit-il, est un tournant point de l’histoire de l’humanité. Une IA qui n'est pas seulement une avancée, raisonne-t-il, car elle gouverne le langage et peut prendre des décisions, et qui pour prévaloir n'a pas besoin de Terminator, il suffit de raconter des histoires, comme les humains le font depuis des millénaires. L'Israélien Yuval Noah Harari (Kiryat Atta, 1976) répondait par téléphone à La Vanguardia à la mi-août, « en attendant de voir si une guerre encore plus grande éclaterait ou si un cessez-le-feu serait possible. C'est une situation tendue. Je ne fais pas confiance aux responsables, ni à mon gouvernement ni à l’autre camp. J’espère que la raison et la compassion prévaudront, mais étant donné la personnalité de ceux qui gouvernent, il est difficile d’avoir de l’espoir.
Il dit que si nous gérons mal l’IA, elle peut éliminer la domination humaine sur Terre. Qu'est-ce que ça veut dire?
Nous avons créé une nouvelle intelligence potentiellement plus puissante et intelligente que nous. Et si cela échappe à notre contrôle, les conséquences pourraient être catastrophiques. Et pas seulement pour l’humanité, mais pour le reste du système écologique. Non pas parce que l’IA est mauvaise, mais si elle est extrêmement puissante et qu’elle ne se soucie pas de nous et des autres entités organiques, elle pourrait nous faire ce que nous avons fait à tant d’autres organismes, à tant d’animaux.
Or, c’est un scénario très extrême. Avec l’IA, une partie du problème réside dans le fait qu’il existe des centaines de scénarios très dangereux. Certains sont faciles à imaginer : un dictateur donne à l’IA le contrôle des armes nucléaires et, à ca...
[Courte citation de 8% de l'article original]