On a découvert que ChatGPT contourne, par nature, les lois Asimov censées réguler l’IA et les robots. Cependant, l’écart n’est ni volontaire, ni malveillant; mais il reste recommandé de rester vigilant.
Avant d’aborder les limites, il convient de rappeler ces règles fondatrices. Première loi : un robot ne doit ni blesser un humain, ni laisser un humain en danger. Deuxième loi : il doit obéir aux ordres, sauf s’ils entrent en conflit avec la première. Troisième loi : il doit se protéger, tant que cela ne contredit pas les deux premières. Une hiérarchie où la sécurité de l’humain prime sur tout.
ChatGPT ne peut pas vous blesser physiquement; oui, mais il peut vous exposer à d’autres risques. Il le fait en produisant des réponses médicales, financières ou juridiques incorrectes. Ces réponses, appellées « hallucinations » – peuvent induire l’utilisateur en erreur et l’exposer à un danger. De même, un mauvais conseil ou une information fausse peuvent avoir des conséquences concrètes sur le quotidien. Ainsi, même sans intention, l’IA laisse l’humain s’exposer au danger. Et cela viole indirectement la Première Loi d’Asimov.
Malgré ces hallucinations, ChatGPT ne cherche pas à tromper car il n’a ni conscience, ni notion du vrai ou du faux. Le coupable c’est son fonctionnement qui repose sur la génération de réponses statistiquement plausibles. Ce qui peut l’amener à inventer des faits ou des sources inexistantes. On peut le comparer à un « perroquet stochastique » qui réorganise l’information sans la comprendre. Mais le vrai danger est surtout notre tendance à croire en son autorité. ChatGPT ne fait que produire du texte sans en mesurer les conséquences.
La deuxième lo...
[Courte citation de 8% de l'article original]