Votre IA en local sur Windows 11 avec Ollama et Open WebUI

Florian BURNEL - ITConnect - 08/04
Apprenez à installer Ollama et Open WebUI sur Windows 11 ou Windows Server 2025 pour exécuter les modèles LLM comme DeepSeek et Gemma en local sur votre PC.

Sommaire

  • I. Présentation
  • II. Performances et choix du modèle
  • III. Installation d'Ollama sur Windows
    • A. Téléchargement et installation
    • B. Ajouter et utiliser un modèle avec Ollama
    • C. Générer du code avec Ollama
  • IV. Installation d'Open WebUI sur Windows (sans Docker)
    • A. Installer Open WebUI avec Miniconda 3
    • B. Premiers pas avec Open WebUI
    • C. L'analyse du code
  • V. Conclusion

I. Présentation

L'intelligence artificielle générative devient de plus en plus accessible, et des solutions open source permettent d'exploiter des modèles de langage en local. Ollama est un outil permettant d'exécuter facilement des LLM en local, sur Windows, Linux ou macOS, tandis qu'Open WebUI fournit une interface web intuitive pour interagir facilement avec ces modèles. Ce tutoriel vous guidera à travers l'installation de ces deux outils sur Windows 11 ou Windows Server 2025.

OpenAI, Google, DeepSeek, Mistral, Anthropic, etc... De nombreuses entreprises proposent des modèles de langage IA avec différentes capacités. Accessibles en tant que solution SaaS, ces intelligences artificielles impliquent aussi de partager des informations avec un tiers. L'utilisation d'Ollama en local peut donc présenter plusieurs avantages :

  • Confidentialité : aucune donnée ne quitte votre machine, ce qui est idéal pour échanger sur des données ou documents sensibles. C'est, à première vue, l'avantage principal.
  • Disponibilité hors ligne : fonctionne sans connexion Internet.
  • Réduction des coûts : pas besoin de payer pour une API cloud, même s'il y a bien entendu le coût de votre matériel et de sa consommation d'énergie.
  • Personnalisation : possibilité d'affiner un modèle selon ses besoins (fine-tuning)

Ollama peut être utilisé seul, Open WebUI étant là pour fournir une interface web intuitive (comme l'interface de ChatGPT, par exemple). Nous verrons comment utiliser ces deux outils avec un modèle DeepSeek R1 (proposé par une société chinoise).

II. Performances et choix du modèle

Exécuter un LLM en local n'est pas si évident et vous ne pourrez pas héberger un ChatGPT en local, tout du moins pas avec les mêmes capacités, car vous n'aurez pas la puissance nécessaire. Ollama offre la possibilité d'utiliser en local des modèle...
[Courte citation de 8% de l'article original]