Exécutez des modèles de langage grands et petits localement avec ollama

DEV - 07/05
Depuis ChatGPT, nous savons tous au moins approximativement ce que sont les grands modèles linguistiques (LLM). Vous pourriez avoir...

Depuis ChatGPT, nous savons tous au moins approximativement ce que sont les grands modèles linguistiques (LLM). Vous avez peut-être entendu dire qu’ils nécessitent une immense quantité de puissance GPU pour fonctionner. Mais saviez-vous qu’il existe également des versions plus petites et moins puissantes de certains modèles (SLM) que vous pouvez exécuter localement sur votre ordinateur ?

Conditions préalables

  • Téléchargez et installez Ollama
  • Téléchargez et installez Docker

Pour ce tutoriel, nous utilisons ollama pour télécharger un modèle sur v...
[Courte citation de 8% de l'article original]

Loading...