Anthropic développe un robot IA « trop dangereux pour être lancé »

Anthropic a suscité des craintes après avoir révélé avoir développé un robot IA jugé trop dangereux pour être rendu public.

Le géant de l’IA a publié une déclaration effrayante avertissant que son nouveau modèle, baptisé Claude Mythos, pourrait être capable de déclencher des cyberattaques paralysantes entre de mauvaises mains.

Dans une analyse effrayante, l’entreprise a admis que sa création pourrait facilement pirater les hôpitaux, les réseaux électriques, les centrales électriques et d’autres éléments d’infrastructure critiques.

Au cours des tests, Anthropic affirme que Mythos « a trouvé des milliers de vulnérabilités de haute gravité, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs Web ».

Certaines de ces failles de sécurité sont passées inaperçues pendant des décennies auprès des chercheurs en sécurité humaine et des pirates informatiques, ayant survécu à des millions d’examens automatisés.

Il s'agissait notamment d'attaques qui permettaient à Mythos de faire planter des ordinateurs simplement en s'y connectant, de prendre le contrôle des machines et de cacher sa présence aux défenseurs.

Dans un article de blog détaillant ce nouveau modèle dangereux, Anthropic déclare : « Les modèles d'IA ont atteint un niveau de capacité de codage où ils peuvent surpasser tous les humains, sauf les plus compétents, pour trouver et exploiter les vulnérabilités logicielles. »

L'entreprise ajoute : « Les conséquences – pour les économies, la sécurité publique et la sécurité nationale – pourraient être graves. »