Timnit gebru attire l'attention sur les pièges de l'ai

Emily Bobrow - Wall Street Journal - 25/02
Le vétéran de la vallée de silicium dit que la grande technologie ne peut pas être fiable pour réguler l'intelligence artificielle par elle-même.

En tant que chercheur principal sur l'éthique de l'intelligence artificielle, timnit gebru a longtemps pensé que les algorithmes d'apprentissage de la machine pourrait un jour alimenter une grande partie de nos vies. ce qu’elle n’avait pas prédit c’était juste comment cela arriverait rapidement. « Je n’imaginais pas que les gens seraient comme, « remplacer les avocats par un chatbot », ou « vendre l’art généré par l’ai qui ressemble exactement à quelqu’un d’autre », dit-elle sur la vidéo de sa maison dans la baie de Californie. « Je n’ai pas anticipé l’utilisation de chatbots dans les moteurs de recherche, ce qui est une idée de bonkers que tout le monde est maintenant en course à faire. ”

« Si les données d’entrée sont biaisées, la sortie peut amplifier ces biais. »

Mme gebru, 39 ans, est la fondatrice et directrice exécutive de l'Institut de recherche de l'intelligence artificielle distribuée (dair), un organisme sans but lucratif qu'elle a lancé en 2021 avec le soutien de la fondation macarthur, la fondation rockefeller, la fondation ford et d'autres. Une grande partie de son travail consiste à mettre en évidence les façons dont les programmes d'ai peuvent renforcer les préjugés existants. «Nous parlons d’algorithmes, mais nous ne parlons pas de qui construit l’ensemble de données ou qui est dans l’ensemble de données», dit-elle. parce que les systèmes d’apprentissage de la machine adoptent des modèles de langage et d’images supprimés de l’Internet, ils sont souvent débarrassés des failles tout-too-humaines d’Internet : « si les données d’entrée sont biaisées, la sortie peut amplifier ces biais. ”

Pendant des années, M. gebru a gagné la notoriété comme un in-ho...
[Courte citation de 8% de l'article original]