L'intelligence artificielle redéfinit la société, mais comporte de gros risques : l'avertissement d'Amanda Askell

Infobae - 16/11
Pour le philosophe et expert en IA, cette technologie a le pouvoir de transformer profondément notre façon de vivre et de travailler. Cependant, il a assuré que son autonomie et la concentration du pouvoir soulèvent des dilemmes éthiques urgents.
"Le plus grand risque n'est pas que les systèmes soient autonomes, mais qu'ils agissent d'une manière que nous ne prévoyons pas ou que nous ne comprenons pas pleinement", a déclaré Askell (Lex Fridman Podcast)

Lex Fridman, chercheur et présentateur connu pour ses conversations avec des personnalités clés de la technologie, a interviewé Amanda Askell, philosophe et experte en alignement de modèles d'IA chez Anthropic. Au cours de la réunion, diffusée sur la populaire chaîne Fridman, ils ont exploré les défis et les opportunités posés par l'IA avancée, depuis les risques de son autonomie jusqu'à son impact sur les décisions humaines et l'importance de garantir que ces outils sont sûrs et éthiques.

Askell, avec une carrière distinguée dans le domaine de la philosophie et des dilemmes éthiques de la technologie, a réfléchi à la manière dont l'intelligence artificielle façonne le comportement humain et aux défis liés à la conception de systèmes reflétant des valeurs universelles. Parmi les sujets mis en avant, il a souligné la nécessité de transparence, la démocratisation de l'accès et les responsabilités éthiques de ceux qui dirigent le développement de cette technologie.

Le chercheur a souligné qu'une supervision constante et des principes éthiques explicites sont essentiels pour contrôler l'autonomie de l'IA (Illustrative Image Infobae)

Pour le chercheur d’Anthropic, l’autonomie de l’IA n’est...
[Courte citation de 8% de l'article original]