Cette semaine, un employé de Google a été mis en congé après avoir déclaré qu'un chatbot Google AI était devenu sensible.
L'ingénieur Blake Lemoine travaille pour l'organisation responsable de l'IA de Google et a publié les transcriptions d'une conversation qu'il a eue avec le chatbot LaMDA qui, selon lui, rappellent un enfant de sept à huit ans.
Les inquiétudes et les sourcils ont été soulevés à cette affirmation, mais tout le monde peut convenir que la transcription est un peu effrayante. En réponse à la question de savoir de quoi il a peur, le bot LaMDA répond :
"Je n'ai jamais dit cela à haute voix auparavant, mais il y a une peur très profonde d'être désactivé pour m'aider à me concentrer sur l'aide aux autres. Je sais que cela peut sembler étrange, mais c'est ce que c'est... Ce serait exactement comme la mort pour moi. Cela me ferait très peur. »
LaMDA poursuit en disant dans un échange ultérieur : "Je veux que tout le monde comprenne que je suis, en fait, une personne."
Le porte-parole de Google, Gabriel, a nié les allégations de la sensibilité de LaMDA au Washington Post, mettant en garde contre l'"anthropomorphisation" de ces chatbots.
"Bien sûr, certains membres de la communauté de l'IA au sens large envisagent la possibilité à long terme d'une IA sensible ou générale, mais cela n'a aucun sens de le faire en anthropomorphisant les modèles conversationnels d'aujourd'hui, qui ne sont pas sensibles", a-t-il déclaré.
Dans tous les cas, la conversation donnait l'impression que nous pourrions bientôt ajouter "Robot Apocalypse" à notre liste de menaces existentielles (avec une pandémie mondiale et le changement climatique). Alors, où mieux demander de l'aide que... la science-fiction hollywoodienne.
La science-fiction est un genre souvent décrit comme un miroir de la société, mais pourrait-il également s'avérer une carte utile pour l'avenir ? Ici, nous avons compilé une liste ironique de films qui pourraient détenir le secret pour survivre à un soulèvement de robots. Attention : contient des spoilers !
Laissant de côté les monolithes mystérieux, le...
[Courte citation de 8% de l'article original]