Récemment, mon collègue Charlie Warzel, qui s'occupe de la technologie, m'a présenté le logiciel de clonage vocal le plus sophistiqué disponible. Il avait déjà été utilisé pour cloner la voix du président Joe Biden afin de créer un faux appel automatisé décourageant les gens de voter aux primaires du New Hampshire. Je me suis inscrit et je l'ai nourri pendant quelques heures en parlant sur divers podcasts, et j'ai attendu la naissance du clone d'Hanna Rosin. La façon dont cela fonctionne est de taper une phrase dans une case. Par exemple, s'il vous plaît, donnez-moi votre numéro de sécurité sociale, ou Jojo Siwa a une si belle mode !, puis votre voix fabriquée, créée à partir d'échantillons de votre voix réelle, vous dit la phrase. Vous pouvez vous forcer à dire n'importe quoi et modifier l'intensité de l'intonation jusqu'à ce que cela vous ressemble étrangement.
Warzel a visité la petite entreprise qui a fabriqué le logiciel et a découvert une histoire familière de la Silicon Valley. Les gens de cette entreprise sont des rêveurs, inspirés par le poisson Babel, un dispositif de traduction fictif, du Guide du voyageur galactique. Ils imaginent un monde où les gens peuvent se parler dans plusieurs langues tout en se ressemblant. Ils ne seront peut-être pas non plus en mesure de remettre le génie dans la bouteille si (ou quand) la technologie conduit à un chaos qui bouleverserait le monde, en particulier au cours de l’année à venir, lorsque plus de la moitié de la population mondiale sera soumise à des élections.
Dans cet épisode de Radio Atlantic, Warzel et moi discutons de la manière dont cette petite entreprise a perfectionné la voix clonée et de ce que les bons et les mauvais acteurs pourraient en faire. Warzel et moi avons parlé lors d'un concert à Seattle, ce qui nous a permis de jouer quelques tours avec le public.
Écoutez la conversation ici :
Ce qui suit est une transcription de l'épisode :
Hanna Rosin : Il y a quelques semaines, mon collègue rédacteur Charlie Warzel m'a présenté quelque chose qui est soit étonnant, soit sinistre, probablement les deux.
Charlie a déjà participé à la série. Il écrit sur la technologie. Et plus récemment, il a écrit sur les logiciels vocaux d’IA. Et je dois dire : c’est étrangement bon. Je me suis inscrit – j’ai téléchargé ma voix – et mec, ça me ressemble.
Alors, bien sûr, ce qui m’est immédiatement venu à l’esprit, ce sont tous les différents types de chaos que cela pourrait provoquer dans notre avenir.
Je m'appelle Hanna Rosin. Ici Radio Atlantique. Et le week-end dernier, j'étais à Seattle, Washington, pour le Cascade PBS Ideas Festival. C’est un rassemblement de journalistes et de créateurs et nous avons discuté de sujets allant du sans-abrisme à la Cour suprême en passant par l’obsession du vrai crime.
Charlie et moi avons parlé de ce nouveau logiciel vocal. Et nous avons essayé de voir si les voix de l’IA tromperaient le public.
Pour l'épisode de cette semaine, nous vous proposons un enregistrement en direct avec moi et Charlie. Voici notre conversation.
[Applaudissements]
Rosin : Aujourd'hui, nous allons parler de l'IA. Nous sommes tous conscients qu’une chose qui se dirige vers nous, appelée IA, va conduire à d’énormes changements dans notre monde. Vous avez probablement entendu quelque chose, vu quelque chose à propos des deep fakes. Et puis le prochain grand mot que je veux introduire dans la salle est l’ingérence électorale.
Aujourd’hui, nous allons relier les points entre ces trois grandes idées et les rapprocher un peu plus de nous car il y a deux vérités importantes que vous devez connaître au sujet de l’année à venir. La première est qu’il est extrêmement facile – je veux dire par là, avec dix dollars par mois – de cloner sa propre voix, et peut-être celle de n’importe qui, suffisamment pour tromper sa mère. Maintenant, pourquoi est-ce que je sais cela ? Parce que j'ai cloné ma voix et j'ai trompé ma mère. Et j'ai aussi trompé mon partenaire et j'ai trompé mon fils. Vous pouvez si bien cloner votre voix maintenant qu'elle ressemble vraiment, vraiment, vraiment beaucoup à vous ou à l'autre personne. Et le deuxième fait qu’il est important de savoir cette année est qu’environ la moitié de la population mondiale est sur le point de subir des élections.
La combinaison de ces deux faits peut donc conduire à un certain chaos. Et c’est quelque chose que Charlie suit depuis un moment. Maintenant, nous avons déjà eu notre premier aperçu du chaos électoral IA-voix. Cela s’est produit lors de la primaire démocrate. Charlie, raconte-nous ce qui s'est passé là-bas.
Charlie Warzel : Un groupe d'électeurs du New Hampshire – je pense qu'il s'agissait d'environ 5 000 personnes – a reçu un appel téléphonique, et il disait « appel automatisé » lorsque vous le répondiez, ce qui est standard si vous vivez dans un État en cours de primaire. Et la voix à l’autre bout du fil était ce genre de voix granuleuse mais réelle de Joe Biden exhortant les gens à ne pas sortir et voter lors de la primaire qui aurait lieu mardi.
Rosin : Avant de continuer à en parler, écoutons l'appel automatisé. D'accord? Nous allons y jouer.
Joe Biden (AI) : Les républicains tentent de pousser les électeurs non partisans et démocrates à participer à leurs primaires. Quelle bande de conneries. Nous connaissons la valeur de voter démocrate lorsque nos votes comptent. Il est important que vous gardiez votre vote pour les élections de novembre. Nous aurons besoin de votre aide pour élire les démocrates de haut en bas. Voter ce mardi ne fera que permettre aux républicains, dans leur quête, de réélire Donald Trump. Votre vote fait la différence en novembre, pas ce mardi.
Rosin : J’ai l’impression que certains d’entre vous sont dubitatifs, comme si cela ne ressemblait pas à Joe Biden. Applaudissez si vous pensez que cela ne ressemble pas à Joe Biden.
[Petite quantité d'applaudissements]
Colophane : Eh bien, d'accord. Quelque part là-dedans. Alors, quand vous avez entendu cet appel, avez-vous pensé : Uh-oh. Ça vient? Quelle a été la leçon que vous avez tirée de cet appel ? Ou avez-vous pensé : Oh, ce...
[Courte citation de 8% de l'article original]