Le texte intégral compte au total 5 941 mots et sa lecture prend environ 13 minutes.
« J'ai passé deux appels vidéo, mais je n'ai pas découvert que l'autre partie n'était pas mes parents », a déclaré Mme Li. Elle a déjà été escroquée de 8 000 yuans par AI.
Beijing Business Daily Reporter丨 Jin Chaoli Journaliste stagiaire Liu Manhua
Récemment, Zhang Wenhong, un expert bien connu en maladies infectieuses, a diffusé en direct une vidéo de vente de barres protéinées. De nombreuses personnes âgées l'ont cru et sont devenues folles d'acheter des milliers de produits pour fenêtres. Mais il a finalement été découvert qu’il s’agissait d’une vidéo contrefaite synthétisée à l’aide de la technologie de changement de visage de l’IA.
Ce n’est pas un cas isolé que des célébrités telles que Zhang Wenhong aient été imitées par la technologie de l’IA.
Le 15 mars de cette année, ce journal a publié un article « La chaîne commerciale déformée sous l'IA Face Changing », qui révélait que certaines entreprises sans scrupules utilisaient l'IA face changeante pour construire une chaîne industrielle grise à faible coût et générant d'énormes profits. Neuf mois plus tard, l’arnaque qui change le visage de l’IA non seulement n’a pas réussi à être maîtrisée, mais s’est intensifiée. Comment guider le changement de visage de l'IA sur la bonne voie à l'avenir nécessitera non seulement plus de supervision de la part de la plate-forme, mais aussi véritablement tester la sagesse des gestionnaires concernés.
Des célébrités au public, la vaste chaîne industrielle de vente
Ajoutez une vidéo et saisissez un morceau de voix, et vous pouvez extraire les caractéristiques vocales liées au clonage et modifier intelligemment la forme de la bouche en fonction du contenu du texte prédéfini. Actuellement, la technologie de changement de visage de l'IA est très mature. Il ne faut que quelques heures pour générer une telle vidéo de changement de visage d'une minute sur un logiciel de synthèse.
Un journaliste du Beijing Business Daily a utilisé plusieurs logiciels populaires de synthèse d'échange de visages par IA et a découvert qu'en fournissant une seule photo, des portraits, des vidéos de danse, etc. peuvent être générés. Si vous n'êtes pas sûr du style de photos ou de vidéos dont vous avez besoin, le logiciel propose également divers modèles, notamment le Hanfu ancien, les costumes ethniques, les célébrités populaires, le changement de visage de célébrité et d'autres options.
Les progrès de la technologie de l'IA ont apporté commodité et divertissement aux utilisateurs, mais en même temps, de nombreuses infractions et comportements illégaux sont causés par le changement de visage de l'IA. Le 30 octobre, selon les données publiées par le tribunal Internet de Pékin, un tota...
[Courte citation de 8% de l'article original]