OpenAI renforce la protection des utilisateurs de ChatGPT suite à un procès pour homicide involontaire - ZDNET

Guillaume Serries - ZDNet - 29/08
De nouvelles protections permettent aux parents de mieux contrôler l'utilisation du chatbot par leurs enfants.

A retenir

  • OpenAI renforce la protection de ChatGPT.
  • Un adolescent a récemment utilisé ChatGPT pour apprendre à se suicider.
  • OpenAI pourrait renforcer le contrôle parental pour les jeunes utilisateurs.

OpenAI améliore la réponse de son chatbot aux utilisateurs en détresse en renforçant les protections suite à une affaire tout à fait sordide. L'entreprise met à jour la liste des contenus bloqués entre autre mesures, a annoncé la société jeudi.

On consulte ChatGPT pour tout, y compris des conseils personnels. Mais le chatbot n'est clairement pas équipé pour traiter les questions les plus sensibles.

Sam Altman, PDG d'OpenAI, a lui-même déclaré qu'il ne ferait pas confiance à l'IA pour des questions thérapeutiques, invoquant des préoccupations en matière de confidentialité.

Suicides d'adolescents liés aux chatbots

Et ces lacunes peuvent avoir des conséquences déchirantes. En avril dernier, un adolescent qui avait passé des heures à discuter de son propre suicide et de ses méthodes avec ChatGPT a fini par se suicider. Ses parents ont porté plainte contre OpenAI, affirmant...
[Courte citation de 8% de l'article original]