Grok, le chatbot IA d'Elon Musk, libère un « torrent de désinformation »

Grok, le chatbot IA d'Elon Musk, libère un « torrent de désinformation » via son outil de génération d'images, a prévenu un expert, alors que des images nuisibles représentant des politiciens commettant les attentats du 11 septembre et des personnages de dessins animés jouant le rôle de tueurs se répandent sur X.

Une nouvelle version de Grok, disponible pour les abonnés payants sur la plateforme de médias sociaux, a été lancée mercredi avec un nouvel outil de génération d'images IA – provoquant l'apparition d'un flot d'images bizarres.

L'outil d'image a apparemment peu de limites sur ce qu'il peut générer - faute de garde-fous qui sont devenus la norme de l'industrie parmi ses concurrents tels que ChatGPT, qui rejette les invites pour des images illustrant la violence du monde réel et le contenu explicite par exemple.

Grok, en revanche, a permis la création d’images dégradantes et offensantes, représentant souvent des hommes politiques, des célébrités ou des personnalités religieuses nues ou commettant des actes de violence.

Le chatbot ne semble pas non plus refuser de générer des images de personnages protégés par le droit d'auteur, de nombreuses images de personnages de dessins animés et de bandes dessinées participant à des activités néfastes ou illégales étant également publiées.