Partie 2 sur 3 : Série sur les principes fondamentaux du LLM
Mis à jour en février 2026 - Le paysage LLM transformé en 2025. Ce guide explique les architectures qui alimentent les modèles frontières d'aujourd'hui, de la fondation du transformateur à la révolution du raisonnement.
Le grand changement de 2025 : il ne s'agit plus de modèles plus gros, mais d'un entraînement plus intelligent. RLVR (Reinforcement Learning from Verifiable Rewards) a tout changé.
Pour un enfant de 5 ans : pensez à un transformateur comme à un compagnon de lecture très intelligent qui peut regarder TOUS les mots d'une histoire en même temps, au lieu de lire un mot à la fois comme vous le faites.
Pour les développeurs : les transformateurs utilisent l'auto-attention pour traiter des séquences entières en parallèle, remplaçant ainsi le traitement séquentiel des RNN/LSTM.
Avant les transformateurs (RNN/LSTM) :
Entrée : "Le chat était assis sur le tapis" Traitement : Séquentiel → Étape 1 : Traiter "Le" Étape 2 : Traiter "cat" (en se souvenant de "Le") Étape 3 : Traiter "sat" (en se souvenant de "Le chat")... et ainsi de suite Problème : Lent, difficile à paralléliser, oublie les dépendances à longue portéeAvec transformateurs (Attention) :
Entrée : « Le chat était assis sur le tapis » Traitement : Parallèle ⚡ TOUS les mots traités simultanément Chaque mot « s'occupe » de tous les autres mots Peut capturer les dépendances à longue portée Résultat : Entraînement 10 à 100 fois plus rapide, meilleure qualitéRequête : « À quoi fait référence ? » Phrase : « Le chat s'est assis sur le tapis parce qu'il était confortable » Mécanisme d'attention : « il » → regarde tous les mots ↓ note chaque mot ↓ « tapis » obtient le score le plus élevé (0,87) « chat » obtient un score moyen (0,45) « Le » obtient un score faible (0,03) ↓ Détermine « il » = « tapis »Intuition mathématique (simplifiée) :
# Pour chaque mot dans la phrase : # Calculez "l'attention" à accorder à un autre mot attention_scores = calculate_similarity(word, all_other_words) # Utilisez ces scores pour créer une combinaison pondérée context = Weighted_sum(all_other_words, attention_scores) # Ce contexte aide à mieux comprendre le mot enhancement_representation = combiner(word, context)Chaque transformateur possède :
Ancien paradigme (2020-2024) :
Modèle plus grand + Plus de données + Plus de calcul = Meilleures performancesNouveau paradigme (2025+) :
Modèle de base + formation RLVR + calcul au moment du test = capacité de raisonnementExplication simple : au lieu de simplement enseigner à un modèle à quoi ressemblent les réponses, nous lui faisons résoudre des problèmes réels et le récompensons lorsqu'il répond correctement !
Explication technique :
RLVR = Apprentissage par renforcement à partir de récompenses vérifiables
Formation traditionnelle : Entrée : « Qu'est-ce que 2+2 ? » Cible : « La réponse est 4 » Perte : Dans quelle mesure la sortie du modèle est-elle proche du texte cible ? Formation RLVR : Entrée : « Qu'est-ce que 2+2 ? » Le modèle génère : "Laissez-moi réfléchir... 2+2... c'est 4" Vérification : Vérifiez si 4 est mathématiquement correct ✓ Récompense : +1 pour une réponse correcte, -1 pour une réponse incorrecte Mise à jour : Renforcez les comportements qui ont conduit à une réponse correcteAperçu clé : le modèle apprend à développer des étapes de raisonnement intermédiaires, car ces stratégies conduisent à des réponses finales correctes !
Les modèles formés avec RLVR développent spontanément :
Exemple - DeepSeek-R1-Zero (RL pur, pas de formation supervisée) :
Problème : « Si x² - 5x + 6 = 0, trouvez x » Raisonnement interne du modèle (découvert tout seul !) :Permettez-moi de prendre en compte cette équation. J'ai besoin de deux nombres qui se multiplient par 6 et dont la somme donne -5. Ces nombres sont -2 et -3. Donc (x - 2)(x - 3) = 0 Cela signifie x = 2 ou x = 3 Laissez-moi vérifier : Pour x = 2 : 2² - 5(2) + 6 = 4 - 10 + 6 = 0 ✓ Pour x = 3 : 3² - 5(3) + 6 = 9 - 15 + 6 = 0 ✓ Les solutions sont x = 2 et x = 3.Personne ne lui a appris à « montrer son travail » – il a appris que cela aide à obtenir des réponses correctes !
Ancienne mise à l'échelle :
Meilleures performances = modèle plus grandNouvelle mise à l'échelle :
Meilleures performance...
[Courte citation de 8% de l'article original]