Plus tôt cette année, des images sexuellement explicites de Taylor Swift ont été partagées à plusieurs reprises. Les images ont presque certainement été créées avec des outils d'IA générative, démontrant la facilité avec laquelle la technologie peut être utilisée à des fins néfastes. Cette affaire reflète de nombreux autres exemples apparemment similaires, notamment de fausses images illustrant l’arrestation de l’ancien président Donald Trump, des images générées par l’IA d’électeurs noirs qui soutiennent Trump et des images fabriquées du Dr Anthony Fauci.
La couverture médiatique a tendance à se concentrer sur la source de ces images, car l’IA générative est une technologie nouvelle que beaucoup de gens essaient encore de comprendre. Mais ce fait obscurcit la raison pour laquelle ces images sont pertinentes : elles se propagent sur les réseaux sociaux.
Facebook, Instagram, TikTok, X, YouTube et Google Search déterminent la façon dont des milliards de personnes utilisent Internet chaque jour. Ce fait n’a pas changé à l’ère de l’IA générative. En fait, la responsabilité de ces plateformes en tant que gardiens s’accentue à mesure qu’il devient plus facile pour un plus grand nombre de personnes de produire du texte, des vidéos et des images sur commande. Pour que les médias synthétiques atteignent des millions de vues – comme les images Swift l’ont fait en quelques heures seulement – ils ont besoin de réseaux massifs et agrégés, qui leur permettent d’identifier une audience initiale, puis de se propager. À mesure que la quantité de contenu disponible augmente avec l’utilisation plus large de l’IA générative, le rôle de conservateur des médias sociaux deviendra encore plus important.
Les plateformes en ligne sont des march...
[Courte citation de 8% de l'article original]