En avril, les avocats de la compagnie aérienne Avianca ont remarqué quelque chose d'étrange. Un passager, Robert Mata, avait poursuivi la compagnie aérienne, alléguant qu'un chariot de service sur un vol avait heurté et gravement blessé son genou gauche, mais plusieurs cas cités dans le procès de Mata ne semblaient pas exister. Le juge n'a pas non plus pu les vérifier. Il s'est avéré que ChatGPT les avait tous inventés, fabriquant des noms et des décisions. L'un des avocats de Mata, Steven A. Schwartz, avait utilisé le chatbot comme assistant - sa première utilisation du programme pour la recherche juridique - et, comme Schwartz l'a écrit dans un affidavit, « n'était pas au courant de la possibilité que son contenu puisse être faux. ”
L'incident n'était qu'un parmi une litanie d'exemples d'IA générative diffusant des mensonges, sans parler des escroqueries financières, de la pornographie non consensuelle, etc. Les entreprises technologiques commercialisent leurs produits d'IA et récoltent potentiellement d'énormes profits, avec peu de responsabilité ou de surveillance juridique pour les dommages réels que ces produits peuvent causer. Le gouvernement fédéral essaie maintenant de rattraper son retard.
À la fin du mois dernier, l'administration Biden a annoncé que sept entreprises technologiques à la pointe du développement de l'IA avaient convenu d'un ensemble d'engagements volontaires pour garantir que leurs produits sont "sûrs, sécurisés et dignes de confiance". Ces engagements font suite à une série de sommets de la Maison Blanche sur l'IA, de témoignages du Congrès sur la réglementation de la technologie et de déclarations de diverses agences gouvernementales selon lesquelles elles prennent l'IA au sérieux. Dans l'annonce, OpenAI, Microsoft, Google, Meta et d'autres se sont engagés à soumettre leurs produits à des tests tiers, à investir dans la réduction des biais et à être plus transparents sur les capacités et les limites de leurs systèmes d'IA.
Le langage est prometteur mais aussi juste une promesse, manquant de mécanismes d'application et de détails sur les prochaines étapes. La réglementation de l'IA nécessite une bureaucratie lourde pour s'attaquer aux entreprises notoirement secrètes et aux technologies en évolution rapide. Une grande partie du langage de l’administration Biden singe les lignes de relations publiques des sommités technologiques sur les capacités de fin du monde de leurs produits, telles que les armes biologiques et les machines qui «s’auto-répliquent». L'action du gouvernement sera essentielle pour protéger la vie et les moyens de subsist...
[Courte citation de 8% de l'article original]