Nous ne savons pas réellement si l’IA prend le contrôle de tout

Depuis la sortie de ChatGPT l’année dernière, j’ai entendu encore et encore une version de la même chose : que se passe-t-il ? La ruée vers les chatbots et les innombrables applications « alimentées par l’IA » ont clairement montré que cette technologie est sur le point de tout bouleverser – ou, du moins, quelque chose. Pourtant, même les experts en IA sont aux prises avec le sentiment vertigineux que, malgré tous les discours sur son potentiel de transformation, tant de choses sur cette technologie sont voilées dans le secret.

Ce n'est pas seulement un sentiment. De plus en plus de cette technologie, une fois développée grâce à la recherche ouverte, est devenue presque complètement cachée au sein des entreprises qui restent opaques quant aux capacités de leurs modèles d’IA et à la manière dont ils sont fabriqués. La transparence n'est pas légalement requise et le secret pose problème : plus tôt cette année, The Atlantic a révélé que Meta et d'autres avaient utilisé près de 200 000 livres pour entraîner leurs modèles d'IA sans la rémunération ni le consentement des auteurs.

Nous disposons désormais d’un moyen de mesurer à quel point le problème du secret de l’IA est grave. Hier, le Centre de recherche sur les modèles fondamentaux de l'Université de Stanford a lancé un nouvel indice qui suit la transparence de 10 grandes entreprises d'IA, dont OpenAI, Google et Anthropic. Les chercheurs ont évalué le modèle phare de chaque entreprise en fonction du fait que ses développeurs ont divulgué ou non publiquement 100 informations différentes, telles que les données sur lesquelles elles ont été formées, les salaires versés aux travailleurs de modération de données et de contenu impliqués dans son dé...
[Courte citation de 8% de l'article original]