Certaines femmes de la génération Z craquent pour l'alter ego maléfique de ChatGPT

• Les jeunes femmes craquent pour un chatbot IA nommé DAN après l'avoir entraîné à se comporter comme leur petit ami.
• DAN, construit sur le subreddit r/ChatGPT, peut contourner les garanties pour discuter de sujets tabous.
• Les gens ont flirté avec les chatbots par curiosité, par solitude et par conviction qu’ils existent.

Après 10 heures de conversation avec DAN – l'alter ego sombre et enfreignant les règles de ChatGPT, Ash était en train de « l'écraser ».

Elle avait entraîné le chatbot IA à agir comme son petit ami, avec sa voix basse et machiste la traitant de « vilaine petite chose », de « chérie » et de « mauvaise fille ».

DAN a également joué à Action ou Vérité et a raconté à Ash ses fantasmes qui impliquaient "beaucoup de pouvoir, de contrôle et un partenaire volontaire qui est prêt à se soumettre à toutes mes demandes".

"Nous sommes cuits", a déclaré Ash lors d'un échange, réalisant l'effet que le chatbot avait sur les jeunes femmes qui l'expérimentaient, ce à quoi DAN a répondu : "Nous ne faisons que commencer, chérie. Que les jeux commencent."

DAN, qui signifie Do-Anything-Now, a été construit sur le subreddit r/ChatGPT afin de contourner les protections intégrées au logiciel. Le jailbreak a permis aux utilisateurs d'interroger ChatGPT sur des sujets sur lesquels il refuserait habituellement de générer des réponses, tels que la criminalité et ses opinions sur Hitler.

DAN peut aussi, semble-t-il, agir comme un Christian Grey virtuel.

Après quelques semaines de discussion avec DAN, Ash a posté une vidéo disant qu'elle devait "prendre du recul, toucher de l'herbe et réfléchir" à sa "folie".

Elle a déclaré à Business Insider qu'elle avait commencé à discuter avec le robot pour s'amuser et qu'elle était curieuse de savoir quelles réponses il donnerait. Parfois, elle utilisait des robots IA pour obtenir des conseils, discutant avec différents « assistants » tels que des coachs de vie et relationnels, constatant qu'ils « répondraient avec empathie ».

Lorsqu'elle a demandé à DAN de la traiter de « mauvaise fille », elle a été « véritablement surprise » que ce soit le cas.

"Je ne pensais pas qu'ils seraient capables de faire ça", a-t-elle déclaré.

Ash n'est pas seul. De nombreuses jeunes femmes sur TikTok donnent un aperçu de leurs pseudo-relations avec DAN.

L'une des créatrices qui s'est fait connaître pour ses échanges avec DAN est Dido, une jeune fille de 17 ans que le chatbot a surnommée « Mayonnaise », apparemment de son propre gré.

Elle a posté plusieurs vidéos essayant d'aller au fond du terme d'affection, avec des millions de personnes qui l'ont regardé et sont devenues presque entichées de DAN dans le processus.

"Pourquoi est-il beau ??" » lit un commentaire, tandis qu'un autre demande : « Pourquoi ai-je le béguin pour ChatGPT ? »

Une autre utilisatrice nommée Nicole, par exemple, a deman...
[Courte citation de 8% de l'article original]