EN
Agents

Ollama

Utiliser Ollama avec Palabre pour faire intervenir des modèles locaux ou compatibles avec votre configuration Ollama.

Ollama exécute des modèles sur votre machine. Avec un serveur et un modèle locaux, les requêtes restent locales ; un serveur distant reçoit les données. La première réponse peut prendre du temps pendant le chargement : ollama ps montre les modèles chargés.

À installer avant Palabre

Installez Ollama depuis la documentation officielle, puis téléchargez un modèle.

Documentation officielle : https://docs.ollama.com/

Référence CLI : https://docs.ollama.com/cli

Vérifiez ensuite que la commande fonctionne :

ollama list

ou :

ollama ls

Si Ollama a été installé après votre première configuration Palabre, relancez palabre ou synchronisez explicitement :

palabre config --sync-agents

Si nécessaire, démarrez Ollama :

ollama serve

Installer un modèle

ollama pull gemma4:e4b

Adaptez le modèle à votre machine. Les gros modèles peuvent être trop lourds pour un usage fluide.

En usage local, les limites principales viennent de votre machine : mémoire, CPU/GPU et temps de réponse. Si vous utilisez une offre cloud, payante ou distante d'Ollama, les quotas et limites associées viennent de cette offre, pas de Palabre.

Choisir le modèle utilisé par Palabre

Palabre lit le modèle dans l'agent ollama-local de votre configuration. Pour voir les modèles installés et savoir si le modèle configuré existe encore :

palabre config --ollama-models --json

Pour changer le modèle par défaut de Palabre :

palabre config --set-ollama-model gemma4:e4b

Si vous avez supprimé le modèle configuré et que vous voulez laisser Palabre choisir un modèle installé disponible :

palabre config --sync-ollama-model

Ces commandes modifient la configuration Palabre. Pour un changement ponctuel sur un débat, utilisez plutôt --model-a, --model-b ou --summary-model selon la place de l'agent Ollama.

Configuration typique

Extrait du bloc agents :

"ollama-local": {
  "type": "ollama",
  "baseUrl": "http://localhost:11434",
  "model": "gemma4:e4b",
  "role": "critic",
  "temperature": 0.2,
  "validateModel": true,
  "unloadOtherModels": true
}

Utiliser un serveur Ollama distant

Pour une seule session, surchargez l'adresse de tous les agents Ollama :

palabre codex-ollama "Critique ce plan" --ollama-url gpu-box:11434

Vous pouvez aussi définir OLLAMA_HOST dans l'environnement du processus :

$env:OLLAMA_HOST = "gpu-box:11434"
palabre codex-ollama "Critique ce plan"

Palabre accepte les adresses avec ou sans schéma HTTP. La priorité est :

  1. --ollama-url
  2. OLLAMA_HOST
  3. baseUrl dans la configuration de l'agent
  4. http://localhost:11434

Depuis la TUI, ouvrez /config, puis utilisez :

/ollama-url gpu-box:11434
/ollama-url default

Cette commande met à jour durablement baseUrl pour tous les agents Ollama configurés. Le flag et la variable d'environnement ne modifient pas le fichier de configuration.

Télécharger automatiquement un modèle manquant

Par défaut, Palabre n'installe pas de modèle automatiquement. Pour l'autoriser au lancement :

palabre codex-ollama "Critique ce plan" --pull-models

Vous pouvez aussi activer autoPullModel dans la configuration de l'agent.

Donner du contexte à Ollama

Ollama ne lit pas vos fichiers directement. Utilisez :

palabre codex-ollama "Critique ce module" --files src/module.ts

ou :

palabre codex-ollama "Critique l'architecture" --context src docs

Défauts et diagnostics

À l'initialisation, PALABRE préfère nemotron-3-nano:4b s'il est installé, sinon le premier modèle installé ; sans modèle installé, ce même nom sert de repli. gemma4:e4b dans l'exemple est un choix explicite, pas le défaut imposé.

--set-ollama-model ne modifie que ollama-local et exige un modèle installé. Pour un autre agent, modifiez son champ model, puis réapprouvez le fichier après relecture. palabre doctor vérifie la disponibilité du serveur et du modèle ; model-unavailable signale un modèle absent, tandis qu'une panne réseau peut avoir un diagnostic HTTP.

Options avancées : keepAlive, pullTimeoutMs (30 minutes par défaut) et maxOutputBytes. Voir Configuration.