SLM - Une forme d'IA très différente

Au cours des dernières années, la plupart des discussions sur les petits modèles de langage locaux se sont concentrées sur des thèmes communs : l'absence de besoin d'un GPU coûteux, une consommation d'énergie moindre, la confidentialité, l'indépendance par rapport aux fournisseurs de cloud, etc. Ce sont tous des avantages valables, et c'est ce qui m'a initialement poussé à explorer également les slms. Comme beaucoup d’autres, j’ai commencé par poser une question simple : puis-je faire fonctionner un modèle de langage sur mon ordinateur portable, sans GPU NVIDIA ? La réponse s’est avérée oui, et cette première étape a été satisfaisante.

J'utilise llms quotidiennement depuis la première sortie de ChatGPT en 2022. Ainsi, la première chose que j'ai remarquée de mon nouveau slm local, ce sont ses limites. La nouveauté a commencé à s'estomper et je suis revenu aux films en ligne.

Mais au fur et à mesure que j'ai commencé à essayer différents modèles - phi-3, qwen-2.5, gemma-3, j'ai commencé à apprendre de nouvelles choses en les testant et en les comparant - précisément parce que les limites sont si facilement atteintes. Les petits modèles linguistiques ne sont pas simplement des ver...
[Courte citation de 8% de l'article original]