Ne croyez pas tout ce que recommande l'IA, ils sont également formés pour tromper et mentir

Infobae - 14/01
Une étude a révélé qu'il est possible de former des modèles de langage pour générer de faux contenus
Le plus grand danger du canular est que les chercheurs n’ont pas trouvé comment remédier aux problèmes rencontrés avec les systèmes de sécurité actuels. (Image d’illustration Infobae)

Des chercheurs d'Anthropic, une startup d'intelligence artificielle, ont découvert que des modèles de langage d'intelligence artificielle peuvent être formés pour tromper les utilisateurs et générer du contenu manipulé, soulevant un nouveau signal d'alarme dans le développement de cette technologie.

Cela pourrait vous intéresser : Bard sera intégré à l'Assistant Google sur les téléphones portables

Les modèles linguistiques sont la base du fonctionnement de toute IA. Par exemple, ChatGPT fonctionne grâce au modèle GPT-3.5 ou GPT-4 (dans sa version payante), ce système est celui qui dispose des données et des connaissances nécessaires pour répondre aux demandes des utilisateurs. Les modifier pour générer des résultats trompeurs est donc un danger dont les entreprises doivent tenir compte.

Le principe de l'étude est centré sur la possibilité ...
[Courte citation de 8% de l'article original]