Qui est Zico Kolter ? Un professeur dirige le panel de sécurité d'OpenAI avec le pouvoir d'arrêter les versions dangereuses de l'IA

Si vous pensez que l’intelligence artificielle présente de graves risques pour l’humanité, alors un professeur de l’Université Carnegie Mellon joue actuellement l’un des rôles les plus importants dans l’industrie technologique.

Zico Kolter dirige un panel de 4 personnes chez OpenAI qui a le pouvoir d'arrêter la sortie de nouveaux systèmes d'IA par le fabricant de ChatGPT s'il les juge dangereux. Il pourrait s’agir d’une technologie si puissante qu’un malfaiteur pourrait l’utiliser pour fabriquer des armes de destruction massive. Il pourrait également s’agir d’un nouveau chatbot si mal conçu qu’il nuirait à la santé mentale des gens.

« Nous ne parlons pas ici uniquement de préoccupations existentielles », a déclaré Kolter dans une interview à l’Associated Press. "Nous parlons de l'ensemble des problèmes de sûreté et de sécurité et des sujets critiques qui surviennent lorsque nous commençons à parler de ces systèmes d'IA très largement utilisés."

OpenAI a choisi l'informaticien pour présider son comité de sûreté et de sécurité il y a plus d'un an, mais ce poste a pris une importance accrue la semaine dernière lorsque les régulateurs de Californie et du Delaware ont fait de la surveillance de Kolter un élément clé de leurs accords pour permettre à OpenAI de former une nouvelle structure commerciale pour lever plus facilement des capitaux et réaliser des bénéfices.

La sécurité est...
[Courte citation de 8% de l'article original]