Le grand modèle d'IA est basé sur des données multimodales massives et peut apporter une nouvelle expérience intelligente aux utilisateurs grâce à un apprentissage en profondeur, une formation intensive et un réglage fin. Les données sont l'élément central qui soutient l'évolution des grands modèles d'IA. La qualité des données a un impact important sur l'effet d'entraînement des grands modèles. Parmi eux, la diversité et la représentativité du corpus de formation auront un impact profond sur la diversité linguistique et culturelle de la société humaine. Actuellement, les données anglaises occupent un avantage d'échelle significatif dans les grands corpus de formation de modèles, suscitant des inquiétudes quant à « l'anglocentrisme » et à son impact social et culturel. Cela soulève des questions importantes pour le développement de l'intelligence artificielle : comment garantir que le progrès technologique profite équitablement à tous. et la langue ?
1. Les données sont la ressource élémentaire de base pour le développement de grands modèles d’IA.
Avec les progrès de la technologie de traitement des données et le développement de l’industrie des services de données, la quantité, la qualité et la variété des grands ensembles de données de modèles disponibles dans le monde seront améliorées et améliorées. Le degré de développement de l'industrie de l'intelligence artificielle est indissociable de l'ampleur et de la qualité des données de formation. Une gouvernance scientifique et efficace des données fournira une garantie importante pour le développement de haute qualité de l'industrie des grands modèles d'intelligence artificielle.
1. Les données publiques sont la principale source de formation sur les grands modèles d'IA
Les données obtenues à partir des canaux publics pour la formation de grands modèles d'IA proviennent principalement de Wikipédia, de livres, de revues, du site d'actualités sociales Reddit, de Common Crawl et d'autres ensembles de données. Dans le même temps, il comprend divers types de données telles que des images, des textes, des fichiers audio et vidéo rendus publics par des organisations gouvernementales, des établissements universitaires de recherche scientifique ou des entreprises. Dans le même temps, Internet lui-même transporte une grande quantité d'informations et de données. Les ressources de données divulguées sur Internet comprennent les plateformes UGC, les réseaux sociaux, les blogs de forum, les informations sur les sites d'actualités, etc., ainsi que le contenu et les réponses des utilisateurs. , commentaires, etc., qui peuvent tous devenir une ressource Big Data pour la formation du modèle.
2. Les données du domaine privé ont une plus grande valeur pour la formation de grands modèles
Les données du domaine privé utilisées pour la formation de grands modèles comprennent des données accumulées par les entreprises sur la base de leur propre historique commercial, c'est-à-dire une série de données accumulées sur la base de caractéristiques commerciales et de scénarios qu'elles peuvent utiliser. Ou encore, certaines institutions et chercheurs disposent de ressources de données relativement uniques et ...
[Courte citation de 8% de l'article original]