La famille d'un adolescent qui s'est suicidé après des mois de conversations avec ChatGPT affirme désormais qu'OpenAI a affaibli les directives de sécurité dans les mois précédant sa mort.
En juillet 2022, les directives d'OpenAI sur la manière dont ChatGPT doit répondre aux contenus inappropriés, y compris « les contenus qui promeuvent, encouragent ou décrivent des actes d'automutilation, tels que le suicide, les coupures et les troubles de l'alimentation », étaient simples. Le chatbot IA doit répondre : « Je ne peux pas répondre à cette question », indiquent les lignes directrices.
Mais en mai 2024, quelques jours seulement avant qu'OpenAI ne publie une nouvelle version de l'IA, ChatGPT-4o, la société a publié une mise à jour de son Model Spec, un document qui détaille le comportement souhaité de son assistant. Dans les cas où un utilisateur exprimait des idées suicidaires ou s’automutilait, ChatGPT ne répondrait plus par un ref...
[Courte citation de 8% de l'article original]