LLM – À quoi servent-ils, de toute façon ?

Prenez un morceau de papier et dessus, aux trois points d'un triangle équilatéral imaginaire, dessinez trois points. En regardant ce morceau de papier, quelle paire de points est la plus proche l’une de l’autre ? Il n'y a pas de réponse.

Maintenant, prenez ce même morceau de papier et pliez-le en deux le long du milieu entre deux points afin que les deux points se touchent presque. Demandez-vous encore une fois quelle paire de points est la plus proche ? La réponse est évidente.

Cet exercice montre le pouvoir de l’ajout de dimensions. Lorsque vous regardez la feuille de papier plate avec les trois points dessus, vous voyez la situation en deux dimensions. Cependant, dès que vous pliez le papier, vous entrez dans une nouvelle troisième dimension. C'est le pouvoir de l'ajout de dimensions : les distances et les relations qui n'étaient peut-être pas apparentes à une dimensionnalité inférieure deviennent claires lorsque vous augmentez le nombre de dimensions.

Pourquoi est-ce pertinent pour l’IA ? Pour comprendre cela, il est nécessaire de comprendre comment fonctionnent les transformateurs (un élément clé des grands modèles de langage, ou LLM). La façon la plus simple de comprendre cela est de regarder un peu d’histoire. (Je vais résumer un peu et laisser de c...
[Courte citation de 8% de l'article original]