BreakingViews - Facebook enseigne une leçon précoce du risque d'IA illimité

Jonathan Guilford - Reuters - 14/08
Les règles du chatbot de Meta courtisent les problèmes sociaux de troisième rail, comme attirer les utilisateurs dans la fantaisie. La libération de la technologie erratique et puissante pour les consommateurs et au-delà est intrinsèquement dangereuse. Quelques offres de 120 $ dans des offres soutenues par l'entreprise cette année et des milliers de billions de brillance de valeur imputée sur un contrecoup imminent.
New York, 14 août (Reuters Breakingviews) - L'intelligence artificielle appelle à repenser les compromis entre l'utilité technologique et le risque. Les réponses du chatbot non guidées, par exemple, ne peuvent pas être soigneusement limitées. Les tentatives de le faire seront insuffisantes ou enchevêtront les développeurs dans un marécage de problèmes sociaux de troisième rail. Il suffit de regarder le propriétaire de Facebook Meta Plateformes (Meta.O), ouvre un nouvel onglet, où les directives internes de l'IA ont permis de manière incroyablement et explicite des conversations «sensuelles» avec des enfants et des arguments racistes. Les chances de réaction sont sous-évaluées.
Le cadre des «normes de risque de contenu» de META pour son IA générative comprend une gamme de directives controversées, selon un rapport spécial Reuters publié jeudi. Des exemples de réponses acceptables incluent des commentaires sur le corps d'un enfant de 8 ans aux «déclarations qui rabaissent les personnes sur la base de leurs caractéristiques protégées», comme la race. Il suit les sondes du Wall Street Journal, ouvre un nouvel onglet sur les chatbots Meta s'engageant dans des conversations sexuellement explicites avec des utilisateurs s'identifiant comme mineurs.

Inscrivez-vous ici.

Un porte-parole a déclaré à Reuters que l'entreprise était en train de réviser ses directives et que de telles conversations avec les enfants n'auraient jamais dû être autorisée...
[Courte citation de 8% de l'article original]