Exécutez des agents de code avec des LLM locaux en utilisant Unsloth Start
Unsloth vous permet de connecter Claude Code, Codex, Hermes, OpenCode, Pi et d’autres agents de codage à un modèle local via la unsloth start commande. L’ensemble du flux de travail peut fonctionner hors ligne sur votre propre matériel. Unsloth configure automatiquement le point de terminaison, la clé API, le fournisseur, le modèle et la longueur de contexte pour chaque lancement, afin que vous puissiez utiliser votre agent préféré sans les modifier. Ce guide vous montrera comment lancer des modèles depuis la ligne de commande pour une utilisation hors ligne et vous connecter à Unsloth.
Démarrage rapide
Tout d’abord, assurez-vous d’avoir Unsloth installé. Puis ouvrez Unsloth, chargez un modèle, allez dans le dossier de votre projet et exécutez la commande dans le terminal :
unsloth start claudeVous pouvez remplacer claude par n’importe quel agent ci-dessous :
Claude Code
unsloth start claude
OpenAI Codex
unsloth start codex
Agent Hermes
unsloth start hermes
OpenClaw
unsloth start openclaw
OpenCode
unsloth start opencode
Unsloth utilise une configuration de fournisseur temporaire ou limitée à la session. Il n’ajoute pas de fournisseur Unsloth aux fichiers de configuration normaux de l’agent.
Codex nécessite actuellement un modèle GGUF servi via le llama-server backend.
Guides des agents
Charger un modèle depuis la ligne de commande
Vous pouvez sélectionner et charger un modèle lors du lancement de l’agent :
Le :UD-Q4_K_XL suffixe sélectionne la quantification GGUF.
Un --gguf-variant explicite remplace la quantification écrite après le nom du modèle.
Sur l’adresse locale par défaut, le fait de passer --model permet de unsloth start démarrer un serveur temporaire lorsque Unsloth Studio n’est pas déjà en cours d’exécution. Le serveur temporaire s’arrête lorsque l’agent se quitte. Si Unsloth est déjà en cours d’exécution, la commande s’y connecte et le laisse en fonctionnement.
Voir ci-dessous des exemples d’agents connectés à un LLM local :
Se connecter à un serveur Unsloth distant
Définissez l’URL Unsloth et la clé API avant de lancer un agent :
Vous pouvez aussi passer la clé avec --api-key. Pour un serveur local Unsloth vérifié, unsloth start crée ou réutilise automatiquement la clé API.
Options
--model, -m
Sélectionnez un modèle. Sans cela, utilisez le premier modèle signalé par Unsloth.
--api-key
Fournissez une clé API Unsloth. Vous pouvez également définir UNSLOTH_API_KEY.
--launch / --no-launch
Lancez l’agent ou affichez l’environnement et la commande générés.
--serve / --no-serve
Autorisez ou empêchez le démarrage automatique d’un serveur local.
--gguf-variant
Sélectionnez une variante de quantification GGUF.
--context-length, --max-seq-length
Définissez la longueur de contexte demandée lors du chargement du modèle.
--load-in-4bit / --no-load-in-4bit
Contrôlez le chargement en 4 bits pour les modèles Hugging Face non GGUF.
--tensor-parallel / --no-tensor-parallel
Activez ou désactivez le chargement GGUF en parallélisme de tenseurs pour les systèmes multi-GPU.
--persist / --no-persist
Conservez le répertoire personnel de l’agent géré par Unsloth lorsque cela s’applique.
--yolo
Utilisez le mode de confiance ou sans invite de l’agent sélectionné.
-h, --help
Afficher l’aide de la commande.
Les options de chargement sont utilisées lorsque Unsloth doit charger ou réconcilier le modèle demandé.
Transmettez des commandes normales à l’agent
Les arguments qui ne sont pas des options Unsloth sont transmis à l’agent sélectionné :
Utilisez la commande d’aide propre à l’agent pour obtenir la liste complète de ses options natives.
Sessions et --persist
--persist conserve le stockage géré. Il ne reprend pas une conversation tout seul ; passez aussi la commande de reprise normale de l’agent.
Agent
Avez-vous besoin de --persist?
Exemple de reprise
Claude Code
Non. Claude utilise son stockage de session normal.
unsloth start claude --continue
OpenAI Codex
Oui. Son répertoire personnel Codex géré est temporaire par défaut.
unsloth start codex --persist resume --last
OpenClaw
Oui. La configuration, l’espace de travail et les sessions gérés sont temporaires par défaut.
Utilisez --persist avec le même identifiant de session natif.
OpenCode
Non. OpenCode utilise son stockage de session normal.
unsloth start opencode run --continue "Continuer"
Agent Hermes
Oui. Son répertoire personnel Hermes géré est temporaire par défaut.
unsloth start hermes --persist --continue --oneshot "Continuer"
Agent de codage Pi
Oui. Son répertoire personnel Pi géré est temporaire par défaut.
unsloth start pi --persist --continue
Pour Codex, OpenClaw, Hermes et Pi, utilisez --persist dès le premier lancement et de nouveau lorsque vous revenez à la session.
Utilisez un identifiant de session stable pour une session nommée :
Afficher la commande de lancement sans l’exécuter
Cela affiche l’environnement et la commande générés. La sortie peut contenir des identifiants de connexion, donc ne la publiez pas dans des journaux ou des captures d’écran.
Mode de contournement des autorisations
--yolo correspond au mode de confiance ou sans invite de l’agent sélectionné. Cela peut réduire les demandes d’approbation et թույլ permettre à l’agent d’exécuter des commandes sans demander d’abord.
Utilisez-le uniquement dans un environnement où des actions d’agent sans restriction sont acceptables.
Problèmes courants
Aucun serveur Unsloth n’a été trouvé
Démarrez Unsloth et chargez un modèle, ou passez `--model` afin qu’Unsloth puisse démarrer un serveur local temporaire.
Mis à jour
Ce contenu vous a-t-il été utile ?