Ollama & les modèles locaux

Jusqu’ici, votre agent de code parlait à des modèles dans le cloud. Maintenant on fait tourner de vrais modèles d’IA directement sur votre mini-PC. Et le truc qui rend ça possible sans douleur, c’est Ollama.

Ollama, c’est la façon la plus simple d’exécuter des LLM open-weight en local. Une commande pour l’installer, une pour télécharger un modèle, et vous vous retrouvez avec une API locale sur le port 11434 qui parle le format OpenAI et, depuis Ollama 0.14 (janvier 2026), celui d’Anthropic : à peu près tous les outils du marché savent s’y brancher. Trois avantages qui se passent de commentaire : c’est privé (rien ne quitte la machine), c’est gratuit, et ça marche hors-ligne.

Installer Ollama

Une ligne. Le script installe le binaire et le lance comme service système, il tourne en fond, prêt à répondre.

curl -fsSL https://ollama.com/install.sh | sh

C’est tout. Ollama écoute désormais sur http://localhost:11434.

Votre premier modèle

On commence par un modèle qui tient presque partout : qwen3.5:9b, 9 milliards de paramètres, 6,6 Go à télécharger. Au classement de Quelle IA (édition du 28 septembre 2026), c’est le mieux noté qui tient dans 8 à 14 Go de mémoire utile, donc le bon choix pour une machine de 16 Go.

# le point de départ, pour une machine de 16 Go
ollama run qwen3.5:9b
# avec 24 Go de mémoire graphique ou 32 Go de mémoire unifiée et plus
ollama run qwen3.8:27b

qwen3.8:27b (18 Go) est, à la même date, le mieux noté qui tient d’une carte graphique de 24 Go jusqu’à un mini-PC de 128 Go. Ces recommandations bougent vite : pour la vôtre, passez par Trouver mon modèle ou par le classement des modèles locaux de Quelle IA. Le détail est dans Choisir son modèle local.

Le premier lancement télécharge le modèle (quelques Go, soyez patient). Ensuite vous vous retrouvez dans un chat directement en terminal : posez-lui une question, demandez-lui un bout de code, vérifiez que ça répond. Tapez /bye pour sortir.

Brancher ça à votre agent de code

Les trois agents se branchent sur Ollama, chacun par son chemin. Ils ne proposent pas tous les mêmes modèles en ligne : la page Outils de code de Quelle IA dit ce que chacun accepte, clé personnelle et modèles locaux compris. Dans tous les cas, gardez en tête qu’un modèle local reste en dessous des meilleurs modèles en ligne pour le code : regardez l’écart sur le classement code de Quelle IA avant d’en attendre des miracles.

ollama launch claude                       # choisit un modèle et lance Claude Code dessus
ollama launch claude --model qwen3.8:27b   # ou directement avec le modèle voulu

export ANTHROPIC_AUTH_TOKEN=ollama        # exigé, mais ignoré par Ollama
export ANTHROPIC_API_KEY=""
export ANTHROPIC_BASE_URL=http://localhost:11434
claude --model qwen3.8:27b

ollama launch opencode   # choisit le modèle et lance OpenCode, sans toucher à votre config

http://localhost:11434/v1

ollama launch codex                # Ollama prépare un profil Codex dédié et lance la session

codex --oss -m qwen3.8:27b                         # session interactive sur le modèle local
codex exec --oss -m qwen3.8:27b "Résume le README"   # même chose en non interactif

Les trois réglages qui comptent

Ollama marche tout de suite, mais trois variables d’environnement font toute la différence quand vous le poussez. Vous les posez dans l’environnement du service (systemctl edit ollama puis Environment="...").

Le piège à graver dans votre tête

Neuf fois sur dix, quand quelqu’un dit « Ollama est lent chez moi », le coupable est le contexte réglé trop haut. Et sur une machine bien dotée, c’est désormais le réglage par défaut qui le règle trop haut.

Voilà pourquoi. Plus la fenêtre de contexte est grande, plus le cache KV (la mémoire de travail du modèle) mange de RAM, et ça grossit vite. Si vous demandez un contexte énorme sur une machine juste, vous débordez sur le swap (le disque qui sert de RAM de secours), et là tout s’effondre : le modèle rame, chaque token prend une éternité, vous croyez que votre matériel est nul alors qu’il étouffe.

La règle : réglez le contexte sur ce dont la tâche a besoin, pas sur le maximum. Un petit script ? 4096 suffit. Un agent de code sur un vrai dépôt ? 64 000, mais surveillez votre RAM : ollama ps montre la taille réellement chargée et, dans sa colonne CONTEXT, le contexte retenu. Le bon réglage, c’est le plus petit qui fait le boulot.