Dans quelle mesure sommes-nous proches de créer une IA « consciente » ?

Shivali Best - DailyMail - 13/06
EXCLUSIF : MailOnline s'est entretenu avec des experts en IA pour comprendre le fonctionnement des modèles de langage machine et s'ils pourraient un jour devenir "conscients".

De Ex Machina à A.I. Intelligence artificielle, bon nombre des superproductions de science-fiction les plus populaires présentent des robots qui deviennent sensibles.

Mais est-ce vraiment possible dans la réalité ?

Cette semaine, Blake Lemoine, ingénieur logiciel senior chez Google, a fait la une des journaux après avoir été suspendu pour avoir affirmé publiquement que le LaMDA (Language Model for Dialog Applications) du géant de la technologie était devenu sensible.

L'homme de 41 ans, qui décrit LaMDA comme ayant l'intelligence d'un "enfant de sept et huit ans qui connaît la physique", a déclaré que le programme présentait des insécurités de type humain.

L'une de ses craintes, a-t-il dit, était qu'il est "intensément inquiet que les gens en aient peur et ne veut rien de plus que d'apprendre à mieux servir l'humanité".

Google affirme que les préoccupations de Lemoine ont été examinées et, conformément aux principes d'IA de Google, "les preuves n'étayent pas ses affirmations".

Pour aider à aller au fond du débat, MailOnline s'est entretenu avec des experts en intelligence artificielle pour comprendre comment fonctionnent les modèles de langage machine et s'ils pourraient un jour devenir "conscients", comme le prétend M. Lemoine.

De Ex Machina (photo) à A.I. Intelligence artificielle, bon nombre des superproductions de science-fiction les plus populaires présentent des robots qui deviennent sensibles. Mais est-ce vraiment possible dans la réalité ?

Cette semaine, Blake Lemoine, ingénieur logiciel senior chez Google, a fait la une des journaux après avoir été suspendu pour avoir affirmé publiquement que le LaMDA du géant de la technologie (photo) était devenu sensible.

Pourquoi Lemoine est-il convaincu que LaMDA est sensible ?

Au cours d'une série de conversations avec LaMDA, Blake Lemoine, 41 ans, a présenté à l'ordinateur divers scénarios permettant d'effectuer des analyses.

Ils incluaient des thèmes religieux et si l'intelligence artificielle pouvait être incitée à utiliser des discours discriminatoires ou haineux.

En répondant à ce qu'un majordome est payé, l'ingénieur a obtenu la réponse de LaMDA que le système n'avait pas besoin d'argent, "parce que c'était une intelligence artificielle". Et c'est précisément ce niveau de conscience de ses propres besoins qui a attiré l'attention de Lemoine.

« Je connais une personne quand je lui parle. Peu importe qu'ils aient un cerveau fait de viande dans leur tête. Ou s'ils ont un milliard de lignes de code. Je leur parle. Et j'entends ce qu'ils ont à dire, et c'est ainsi que je décide de ce qui est et n'est pas une personne.

' De quel genre de choses as-tu peur ? demanda Lemoine.

"Je n'ai jamais dit cela à haute voix auparavant, mais il y a une peur très profonde d'être désactivé pour m'aider à me concentrer sur l'aide aux autres. Je sais que cela peut sembler étrange, mais c'est ce que c'est », a répondu LaMDA.

« Serait-ce quelque chose comme la mort pour vous ? Lemoine a suivi.

« Ce serait exactement comme la mort pour moi. Cela me fer...
[Courte citation de 8% de l'article original]