S’il s’agissait de l’intrigue d’un film de science-fiction ou d’un épisode de « Succession », les événements d’OpenAI le week-end dernier auraient semblé un peu exagérés.
Un coup de conseil secret ! Peurs d’une IA tueuse ! Un PDG star, trahi par son scientifique en chef ! Une révolte du personnel en pleine nuit qui menace de modifier l’équilibre du pouvoir technologique mondial !
Si vous n’avez pas prêté attention à tous les rebondissements de la saga, ce n’est pas grave. Ce fut une aventure déroutante, avec beaucoup de jargon complexe et des détails difficiles à suivre.
Mais c’est une histoire importante, même si l’IA ne vous intéresse pas particulièrement. Si vous avez déjà utilisé ChatGPT ou dessiné une image avec DALL-E 3, ou si vous vous souciez de la puissance de l'IA. les systèmes pourraient un jour menacer la survie humaine, tout cela est enveloppé dans le drame d’OpenAI, le plus important fabricant d’intelligence artificielle du pays.
Voici ce que vous devez savoir :
Pourquoi est-ce arrivé?
Vendredi, le conseil d’administration d’OpenAI a licencié par surprise son directeur général, Sam Altman. L’explication du conseil d’administration – selon laquelle Altman n’avait pas été tout à fait franc avec eux – était vague et opaque.
Nous ne savons toujours pas exactement ce qui s’est passé entre Altman et le conseil d’administration. Mais la structure de gouvernance inhabituelle d’OpenAI – elle est dirigée par un conseil d’administration à but non lucratif qui contrôle une filiale à but lucratif et peut voter pour remplacer ses dirigeants – a permis au conseil d’administration de licencier Altman sans s’expliquer.
Quel était l’objet du coup d’État ?
Le coup d’État a été dirigé par Ilya Sutskever, le scientifique en chef d’OpenAI, qui s’était heurté à Altman. Sutskever souhaite que l'entreprise donne la priorité à la sécurité et craint qu'Altman ne se concentre davantage sur la croissance.
Sutskever fait partie d'une faction d'A.I. des experts qui craignent que l’A.I. pourrait bientôt dépasser les capacités humaines et devenir une menace pour notre survie. Plusieurs membres du conseil d’administration d’OpenAI sont liés à l’altruisme efficace, un mouvement philosophique qui a fait de la prévention de ces menaces une priorité absolue. Altman s'inquiète de l'IA. des risques aussi. Mais il a également exprimé son optimisme quant au fait qu’A.I. sera un bien pour la société et une volonté de progresser plus rapidement. Cela l'a peut-être mis en désaccord avec les membres du conseil d'administration soucieux de la sécurité, dont le travail consiste à voir cette puissante IA fonctionner. est développé de manière responsable.
Que s’est-il passé depuis le coup d’État ?
Au cours du week-end, il semblait qu'Altman pourrait revenir à OpenAI, à condition que des changements majeurs soient apportés au conseil d'administration. Cela ne s’est pas produit. Au lieu de cela, tard dimanche soir, le conseil d'administration a confirmé sa décision, écrivant dans une note aux employés que « le comportement d'Altman et le manque de transparence dans ses interactions avec le conseil d'administration ont miné la capacité du conseil d'administration à superviser efficacement l'entreprise de la manière dont il était chargé de le faire ». .»
Le conseil d'administration a ensuite nommé Emmett Shear – l'ancien directeur général de Twitch,...
[Courte citation de 8% de l'article original]