Comment 8 employés de Google ont inventé l'IA moderne

En 2017, l’intelligence artificielle (IA) a connu une révolution significative avec l’émergence d’une étude révolutionnaire intitulée « L’attention est tout ce dont vous avez besoin » par Noam Shazeer, Llion Jones, Jakob Uszkoreit, Illia Polosukhin, Ashish Vaswani, Niki Parmar, Łukasz Kaiser et Aidan. Gomez.

Le modèle, qu'ils ont appelé « Transformer », se distingue par le fait qu'il s'appuie exclusivement sur des mécanismes d'attention, ce qui évite les réseaux de neurones récurrents (RNN) et les réseaux traditionnellement utilisés dans les tâches de traduction de séquences. L'analyse est devenue une étape importante pour le développement de technologies avancées telles que ChatGPT, Dall-E et Midjourney, redéfinissant l'approche des réseaux neuronaux grâce à la mise en œuvre de transformateurs et de la technique d'auto-attention.