Une poignée d’entreprises technologiques mettent en péril l’avenir de l’humanité en raison du développement effréné de l’IA et doivent mettre un terme à leur « course vers le bas », selon le scientifique à l’origine d’une lettre influente appelant à une pause dans la construction de systèmes puissants.
Max Tegmark, professeur de physique et chercheur en IA au Massachusetts Institute of Technology, a déclaré que le monde était « témoin d’un nivellement par le bas qui doit être stoppé ». Tegmark a organisé une lettre ouverte publiée en avril, signée par des milliers de personnalités de l'industrie technologique, dont Elon Muck et le co-fondateur d'Apple, Steve Wozniak, qui appelait à une pause de six mois dans les expériences géantes d'IA.
« « Nous assistons à un nivellement par le bas qui doit être stoppé », a déclaré Tegmark au Guardian. « Nous avons besoin de toute urgence de normes de sécurité en matière d’IA, afin que cela se transforme en une course vers le sommet. L’IA promet de nombreux avantages incroyables, mais le développement imprudent et incontrôlé de systèmes de plus en plus puissants, sans surveillance, met notre économie, notre société et nos vies en danger. La réglementation est essentielle à la sécurité de l’innovation, afin qu’une poignée d’entreprises d’IA ne mettent pas en péril notre avenir commun.
Dans un document politique publié cette semaine, 23 experts en IA, dont d...
[Courte citation de 8% de l'article original]