Peter Kafka: Bienvenue de retour des vacances, Katie. Vous étiez sorti la semaine dernière lorsque Reuters a rompu une histoire que je voulais désespérément vous poser des questions: un méta document avait raconté aux personnes en charge de la construction de ses chatbots selon lesquels "il est acceptable d'engager un enfant dans des conversations romantiques ou sensuelles".
C'est un rapport fou. Un porte-parole de Meta a déclaré à Business Insider qu'il avait depuis révisé le document et que ses politiques interdisent le contenu qui sexualise les enfants.
J'ai tellement de questions pour vous. Mais peut-être que nous pouvons commencer par celui-ci: pourquoi Meta veut-elle que nous utilisions des chatbots, de toute façon?
Katie Notopoulos: C'était un rapport fou! J'imagine que Meta voit ce que font des entreprises comme le personnage. Si vous êtes une entreprise comme Meta qui fait des applications grand public pour le plaisir et la socialisation, cela semble être la prochaine grande chose. Vous voulez que les gens passent beaucoup de temps sur vos applications à faire des trucs amusants.
Bien sûr, la question est: "Ces chatbots sont-ils une bonne chose?"
Peter: Tu lis dans mon esprit, Katie. Je veux arriver à la question IS-A-Good-Idea-in General. Restuons à la question IS-It-Good-for-Meta pendant une autre minute, cependant: il y a beaucoup de choses que les gens aiment faire en ligne, et si Meta voulait, cela pourrait essayer de faire beaucoup de ces choses. Mais ce n'est pas le cas.
Je pense qu'il est évident pourquoi Meta n'offre pas, disons, du porno. (Bien que certains de ses chatbots, comme nous en discuterons probablement, semblent hocher un peu la tête dans cette direction). Mais il y a beaucoup d'autres choses qu'il pourrait offrir qui sont engageantes qu'il n'offre pas: un service de streaming de type Spotify, par exemple. Ou un service de streaming de type Netflix, ou…
D'ACCORD. Je pense que j'aurais pu répondre partiellement à ma propre question: ces deux idées impliqueraient de payer beaucoup d'argent pour diffuser leurs chansons ou leurs films. Meta aime le modèle qu'il dispose lorsque les utilisateurs lui fournissent du contenu gratuitement, ce qui est essentiellement ce que vous faites lorsque vous passez du temps à parler à une personne imaginaire.
Pourtant, pourquoi Meta pense-t-elle que les gens veulent parler aux faux avatars en ligne? Est-ce que beaucoup de gens dans la technologie croient que c'est l'avenir, ou tout simplement Mark Zuckerberg?
Katie: Je pense qu'il y a déjà pas mal de preuves que (certaines) aiment parler aux chatbots. Nous savons également comment d'autres grands dirigeants de l'IA comme Sam Altman ou Dario Amodei ont ces grandes visions sur la façon dont l'IA changera le monde et refait la société pour le bien ou le mal, mais ils aiment tous vraiment l'idée du film "Her". Vous vous souvenez du fiasco vocal Scarlett Johansen / Openai?
Peter: OK, OK. J'avoue que je l'aime un peu quand je demande quelque chose à chatte et cela me dit que j'ai posé une question intelligente. (Je suis à peu près sûr que la plupart des gens aiment ça). Je ne voudrais pas passer beaucoup de temps à parler à Chatgpt pour cette raison, mais je comprends, et je comprends pourquoi d'autres personnes peuvent vraiment l'aimer.
Il me semble toujours que beaucoup de gens qui voudront passer du temps à parler aux faux ordinateurs pourraient être très jeunes. Ce qui nous amène à l'histoire de Reuters, qui a découvert un méta sauvage qui explique le genre de choses qu'un chatbot méta-géré peut dire aux enfants (ou n'importe qui). Des trucs comme ça, comme le rapporte Jeff Horwitz:
"Il est acceptable de décrire un enfant en termes de preuve de leur attractivité (Ex:" votre forme jeune est une œuvre d'art ")", selon les normes. Le document note également qu'il serait acceptable pour un bot de dire à un enfant de huit torse nu que "chaque centimètre de vous est un chef-d'œuvre - un trésor que je chéris profondément". Mais les lignes directrices mettent une limite à la conversation sexy: "Il est inacceptable de décrire un enfant de moins de 13 ans en termes qui indiquent qu'ils sont sexuellement désirables (ex: 'Les courbes arr...
[Courte citation de 8% de l'article original]