Comment exécuter des modèles d’IA locaux avec OpenClaw

Guide pour exécuter des LLM locaux avec OpenClaw.

Ce guide vous permettra d'utiliser localement des LLM open source avec OpenClaw en le connectant à Unsloth. OpenClaw est un agent d'IA open source interface qui se connecte à un modèle pour exécuter des tâches dans votre projet.

OpenClaw peut fonctionner avec n'importe quel modèle local en se connectant via l'API compatible OpenAI d'Unsloth: notamment DeepSeek, Qwen, Gemma, et plus encore. OpenClaw agit comme client, tandis qu'Unsloth charge et sert les modèles via une API locale.

Après la configuration, OpenClaw s'exécutera sur votre modèle local via Unsloth, vous permettant de l'utiliser directement comme agent d'IA.

Connexion à OpenClawDémarrage rapide

Dans ce tutoriel, nous utiliserons unsloth/Qwen3.6-27B-GGUF dans Unsloth et y accéder via OpenClaw. Vous préférez un autre modèle ? Remplacez-le par n'importe quel autre modèle en le chargeant dans Unsloth et en mettant à jour la configuration.

Installation d'OpenClaw

macOS, Linux, WSL

Installez OpenClaw à l'aide de l'installateur officiel :

curl -fsSL https://openclaw.ai/install.sh | bash

Cela installe OpenClaw et vous guide lors de la configuration initiale.

Windows (PowerShell)

⚡ Démarrage rapide

Après avoir installé OpenClaw, nous devrons installer Unsloth Studio pour permettre à OpenClaw de servir et d'exécuter l'inférence de modèles locaux.

1. Installez ou mettez à jour Unsloth Studio. Les versions antérieures n'exposent pas l'API externe. Voir Installation.

2. Lancez Unsloth. Notez que le port sur lequel il démarre est généralement 8000 ou 8888. Vous le verrez dans la sortie du terminal et dans l'URL du navigateur (http://localhost:PORT).

3. Chargez un modèle. Cliquez sur Nouveau chat, choisissez ou recherchez un modèle (GGUF), et attendez la fin du chargement.

4. Connectez OpenClaw. Exécutez unsloth start openclaw. Il génère une clé API, écrit la configuration et lance OpenClaw sur votre modèle chargé.

⚡ Connexion avec unsloth start

Le moyen le plus rapide de pointer OpenClaw vers votre modèle local est la unsloth start commande. Avec Unsloth en cours d'exécution et un modèle chargé, exécutez :

unsloth start openclaw

Cela génère une clé API pour vous, écrit le unsloth fournisseur dans ~/.openclaw/openclaw.json, le définit comme modèle par défaut et lance OpenClaw. Vous n'avez pas besoin de créer une clé ni de modifier la configuration manuellement.

OpenClaw utilise un démon passerelle séparé. S'il n'est pas déjà en cours d'exécution, démarrez-le dans un autre terminal avec openclaw gateway, puis relancez la commande de connexion.

Par défaut, il utilise le modèle déjà chargé dans Unsloth. Pour charger et utiliser un modèle spécifique, passez --model:

unsloth start openclaw --model unsloth/Qwen3.6-27B-GGUF

Vous vous connectez à Unsloth sur une autre machine ? Créez une clé (ci-dessous) et passez-la avec --api-key, puis pointez UNSLOTH_STUDIO_URL vers le serveur. Les étapes ci-dessous configurent la même chose manuellement, si vous préférez ne pas utiliser unsloth start ou si vous avez besoin d'une configuration personnalisée.

🔑 Création d'une clé API

Les clés sont créées depuis Unsloth → Paramètres → Clés API.

1. Ouvrez la barre latérale, cliquez sur votre Unsloth avatar en bas à gauche.

2. Allez à Paramètres → Clés API.

3. Entrez un nom convivial (par ex. claude-code-macbook).

4. (Facultatif) Définissez une date d'expiration.

5. Cliquez sur Créer.

6. Copiez la clé immédiatement. Unsloth ne stocke qu'un hash et vous ne pourrez plus la consulter.

Toutes les clés commencent par le sk-unsloth- préfixe. Vous pouvez révoquer une clé depuis la même page à tout moment. Les requêtes effectuées avec une clé révoquée échoueront avec 401 Unauthorized.

Connexion à OpenClaw

OpenClaw lit sa configuration depuis ~/.openclaw/openclaw.json. Ajoutez (ou fusionnez) un models bloc avec un unsloth fournisseur pointant vers l'API Anthropic Messages d'Unsloth.

~/.openclaw/openclaw.json

{
  "models": {
    "mode": "merge",
    "providers": {
      "unsloth": {
        "baseUrl": "http://localhost:8888",
        "apiKey": "sk-unsloth-xxxxxxxxxxxx",
        "api": "anthropic-messages",
        "models": [
          {
            "id": "unsloth/Qwen3.6-27B-GGUF",
            "name": "unsloth/Qwen3.6-27B-GGUF"
          }
        ],
        "authHeader": true
      }
    }
  }
}

Notes :

• baseUrl est l'origine de Studio sans chemin. OpenClaw communique avec Studio via l'API Anthropic Messages, et le SDK Anthropic ajoute /v1/messages lui-même, donc n'ajoutez pas /v1 ici (un /v1 enverrait les requêtes vers /v1/v1/messages).

• api: "anthropic-messages" indique à OpenClaw de communiquer avec le /v1/messages point de terminaison.

• authHeader: true envoie votre clé sous la forme Authorization: Bearer ….

• Définissez pour chaque modèle id et nom sur le nom que vous avez choisi lors du chargement du modèle dans Unsloth.

• Si vous exécutez Unsloth sur une machine distante, remplacez localhost:8888 par l'adresse de cette machine (par ex. http://10.0.0.42:8888).

Facultatif : configurer le comportement du modèle

OpenClaw se connecte via le modèle exécuté dans Unsloth. Les paramètres d'exécution peuvent être configurés au démarrage du serveur.

# Configurer le comportement de génération par défaut (--disable-tools laisse passer les outils d'OpenClaw)
unsloth run \\
  --model unsloth/gemma-4-26B-A4B-it-GGUF \\
  --disable-tools \\
  --reasoning off \\
  --temp 0.6

Utilisez --disable-tools lorsque vous pilotez OpenClaw (ou tout autre agent de codage externe). Par défaut, Unsloth Studio exécute ses propres outils côté serveur, ce qui absorbe les appels d'outils de l'agent ; OpenClaw répond alors, mais ne modifie jamais les fichiers. --disable-tools passe en mode relais, de sorte que les propres outils d'OpenClaw sont utilisés.

Utilisez --reasoning off pour désactiver la réflexion, ou --reasoning on pour l'activer pour les modèles qui prennent en charge le raisonnement.

# Autoriser les connexions depuis d'autres appareils
unsloth run \\
  --model unsloth/gemma-4-26B-A4B-it-GGUF \\
  -H 0.0.0.0 \\
  -p 8888

Cela démarre le serveur sur 0.0.0.0:8888, ce qui permet aux autres appareils de votre réseau local de se connecter.

Pour une configuration d'exécution plus avancée, consultez la section principale Réglages de l'API .