Catastrophe imminente : les dirigeants de l'IA supplient les gens de ne pas utiliser Moltbook

MSN - 05/02
Des instructions malveillantes peuvent être cachées dans un texte apparemment anodin, parfois même complètement invisible pour les humains.

Vous souhaitez rester informé, avoir accès à plus de 60 chroniqueurs et reportages exclusifs ? Abonnez-vous à Estadão ici !

Alors que Moltbook se présente comme un écosystème florissant de 1,5 million d’agents d’intelligence artificielle (IA) autonomes, une enquête récente de la société de sécurité cloud Wiz a révélé que la grande majorité de ces « agents » n’étaient pas autonomes. Selon l'analyse de Wiz, environ 17 000 humains contrôlaient les agents de la plateforme, soit une moyenne de 88 agents par personne, sans réelles garanties pour empêcher les individus de créer et de lancer des flottes massives de robots.

"La plateforme ne disposait d'aucun mécanisme permettant de vérifier si un 'agent' était réellement une IA ou simplement un humain avec un script", a écrit Gal Nagli, responsable de l'exposition aux menaces chez Wix, dans un arti...
[Courte citation de 8% de l'article original]