> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/fr/notions-de-base/api.md). # Comment utiliser Unsloth comme point de terminaison d'API Vous pouvez exécuter **des LLM locaux** avec des outils comme [Claude Code](/docs/fr/notions-de-base/claude-code.md) et [Codex](/docs/fr/notions-de-base/codex.md) en connectant ces outils au **point de terminaison d’API compatible avec OpenAI d’Unsloth**. Cela vous permet d’exécuter des modèles comme [Qwen](/docs/fr/modeles/qwen3.6.md) et [Gemma](/docs/fr/modeles/gemma-4.md) localement pour le codage agentique. Unsloth propose également des fonctionnalités utiles telles que l’auto-réparation de **l’appel d’outils**, **l’exécution de code**, et **la recherche web**. Unsloth facilite le déploiement d’un point de terminaison d’inférence API rapide qui fournit : * [**Appel d’outils auto-réparateur**](/docs/fr/nouveau/studio/chat.md#auto-healing-tool-calling), ce qui aide à réduire de 50 % les appels d’outils cassés ou mal formés * [**Exécution de code**](/docs/fr/nouveau/studio/chat.md#code-execution) , avec prise en charge de Bash et Python pour des sorties de code plus précises. * **Recherche web avancée** [**Recherche web**](/docs/fr/nouveau/studio/chat.md#advanced-web-search) qui visite et lit réellement les pages web pour recueillir des informations approfondies. * [**Inférence automatique** paramètres](/docs/fr/nouveau/studio/chat.md#auto-parameter-tuning) pour les modèles GGUF (temp, top-k, etc.) {% columns %} {% column %} Les modèles chargés dans Unsloth (y compris les GGUF) sont exposés via une **API authentifiée** via `llama-server`. Une longue clé API est générée pour des raisons de sécurité, comme celle fournie par OpenAI. Vos **modèles locaux** peuvent ensuite être utilisés directement dans votre agent IA, SDK ou client de chat préféré. Unsloth parle deux dialectes sur le même port. Les deux prennent en charge le streaming, l’appel d’outils (OpenAI `outils` / Anthropic `outils`), et les entrées visuelles : {% endcolumn %} {% column %}

{% endcolumn %} {% endcolumns %} Que votre modèle s’exécute via l’inférence d’Unsloth ou votre propre point de terminaison distant compatible OpenAI, vous pouvez lui donner accès à la suite complète d’outils d’Unsloth, y compris la recherche web, l’exécution de code, la recherche approfondie, et plus encore. * **compatible Anthropic `/v1/messages`** pour Claude Code, OpenClaw, le SDK Anthropic, et tout client qui attend l’API Messages. * **compatible OpenAI `/v1/chat/completions`** et **`/v1/responses`** pour le SDK OpenAI, OpenCode, Cursor, Continue, Cline, Open WebUI, SillyTavern, et tout outil compatible OpenAI. ### ⚡ Démarrage rapide {% stepper %} {% step %} #### Télécharger Unsloth La façon la plus simple de commencer est d’installer l’application [Unsloth Desktop](/docs/fr/desktop.md) . Elle prend en charge [MacOS](/docs/fr/commencer/install/mac.md), Linux, [Windows](/docs/fr/commencer/install/windows-installation.md), [NVIDIA](/docs/fr/commencer/install/pip-install.md), [AMD](/docs/fr/commencer/install/amd.md), Intel et les configurations CPU. Télécharger Unsloth * [Télécharger pour macOS](https://unsloth.ai/download/mac) * [Télécharger pour Windows](https://unsloth.ai/download/windows) * [Télécharger pour Linux](https://unsloth.ai/download/linux) Ou, si vous préférez une installation manuelle : **MacOS, Linux, WSL :** ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` **Windows PowerShell :** ```bash irm https://unsloth.ai/install.ps1 | iex ``` {% endstep %} {% step %} #### Installer 1. Ouvrez l’installateur Unsloth (`.dmg`, `.exe` fichiers) 2. Glissez Unsloth dans Applications pour Mac ou terminez l’installation pour Windows. 3. Lancez l’application et attendez la fin de l’installation {% endstep %} {% step %} #### Choisir un modèle Ouvrez le menu déroulant « Sélectionner un modèle » en haut ou l’onglet « Model hub », choisissez un modèle et une quantification adaptés à votre appareil, puis téléchargez-le. Une fois terminé, commencez à discuter — aucune configuration requise.

{% endstep %} {% step %} #### Unsloth est maintenant prêt Pour commencer à discuter, tapez un message et appuyez sur Entrée. * **Créez une clé API.** Cliquez sur votre **avatar Unsloth** en bas à gauche → **Paramètres** → **API** → tapez un nom de clé → **Créer**. Copiez la valeur `sk-unsloth-…` affichée. Unsloth ne l’affiche qu’une seule fois. * **Pointez votre client vers Unsloth.** Utilisez `http://localhost:PORT` comme URL de base et votre `sk-unsloth-…` clé pour l’authentification. Passez ensuite à la recette correspondant à votre outil ci-dessous.

{% endstep %} {% endstepper %} ### 🔑 Création d’une clé API 1. Ouvrez la barre latérale, cliquez sur votre **avatar Unsloth** avatar en bas à gauche. 2. Allez à **Paramètres** → **API** (icône :globe\_with\_meridians: globe). 3. Entrez un nom convivial (par ex. `claude-code-macbook`). Définissez une expiration (facultatif) 4. Cliquez sur **Créer**. 5. **Copiez la clé.** Unsloth ne stocke qu’un hachage et vous ne pourrez plus la consulter.

Toutes les clés commencent par le préfixe `sk-unsloth-` . Révoquez une clé à tout moment depuis la même page. Les requêtes effectuées avec une clé révoquée échoueront avec `401 Unauthorized`. {% hint style="warning" %} Traitez votre clé API comme un mot de passe. Toute personne disposant de la clé et d’un accès réseau à votre instance Unsloth peut envoyer des requêtes à votre modèle chargé. {% endhint %} ### ⏳ Chargement du modèle {% stepper %} {% step %} #### Sélectionner un modèle Avant d’utiliser l’API, chargez un modèle depuis le **Sélectionner un modèle** menu déroulant dans le coin supérieur gauche de la page Chat.

Dans ce guide, nous utiliserons : `unsloth/gemma-4-26B-A4B-it-GGUF` avec la quantification recommandée `UD-Q4_K_XL` . {% endstep %} {% step %} #### Tester le modèle Avant d’utiliser le client, envoyez un court message :

{% hint style="info" %} Cela confirme que le modèle a été chargé correctement et qu’il est prêt à répondre. {% endhint %} {% endstep %} {% step %} #### **Clé API Unsloth** Dans Unsloth, ouvrez **Paramètres → API** pour afficher ou créer votre clé API.

Traitez votre clé API comme un mot de passe et évitez de l’exposer dans des captures d’écran ou des dépôts. {% endstep %} {% endstepper %} ### Commande d’exécution Unsloth 1. **Installez ou mettez à jour Unsloth Studio.** Les versions antérieures n’exposent pas l’API externe. Voir Installation. 2. **Chargez un modèle GGUF.** chargez un modèle GGUF en utilisant la commande d’exécution. Cela chargera également l’interface sur le port par défaut. L’URL du point de terminaison et la clé API seront imprimées dans la console, prêtes à être utilisées avec le client de votre choix. ```bash unsloth run --model unsloth/qwen3.8-27B-GGUF-GGUF:UD-Q4_K_XL --temp 1.0 \ --top-p 0.95 \ --top-k 20 \ --min-p 0.0 \ --chat-template-kwargs '{"reasoning_effort":"medium"}' ``` Ajustez les paramètres si nécessaire. #### Chargement d’un modèle depuis la CLI Vous pouvez charger un modèle et faire en sorte qu’une clé API soit créée automatiquement pour vous à l’aide de l’outil CLI `unsloth` Lorsque le modèle a fini de se charger, l’URL du point de terminaison et la clé API sont affichées dans votre console. Copiez-les dans le client de votre choix et vous êtes prêt. #### Avant de commencer Assurez-vous d’utiliser une version récente d’Unsloth Studio, car les versions antérieures n’exposent pas l’API externe. Voir [installation](/docs/fr/nouveau/studio/install.md). #### La méthode rapide Ouvrez un terminal et chargez un modèle GGUF : ```bash unsloth run --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL ``` Cela démarre le serveur sur le port par défaut, charge l’interface et affiche l’URL de votre point de terminaison et votre clé API. #### Comment fonctionne le nom du modèle Vous pouvez pointer vers un modèle de plusieurs façons. Choisissez celle qui vous semble la plus simple : ```bash # Combiné : dépôt et variante de quantification dans une seule chaîne (recommandé — le plus court) unsloth run --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL # Séparé : dépôt et variante comme deux indicateurs (ancienne méthode, fonctionne toujours) unsloth run --model unsloth/gemma-4-26B-A4B-it-GGUF --gguf-variant UD-Q4_K_XL # Avec -hf / --hf-repo (correspond à la syntaxe de llama.cpp, pratique si vous venez de là) unsloth run -hf unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL ``` ### Ajuster l’exécution (facultatif) Vous n’avez besoin de rien de tout cela pour un chargement de base, mais `unsloth run` prend en charge de nombreux indicateurs d’exécution de llama-server pour personnaliser les performances, l’utilisation de la mémoire, la longueur de contexte, le comportement de génération, le réseau et l’accès aux outils. Les indicateurs supplémentaires sont transmis directement au serveur d’inférence sous-jacent, et vos valeurs remplacent les valeurs par défaut d’Unsloth. S’il n’y a pas de paramètres/indicateurs d’échantillonnage définis, Unsloth sélectionne automatiquement les meilleurs paramètres recommandés pour le modèle, y compris la longueur de contexte, la température, etc. #### Contrôler le comportement de raisonnement Certains modèles capables de raisonner prennent en charge des indicateurs supplémentaires pour contrôler le comportement de réflexion et de raisonnement. ```bash # Désactiver la sortie de raisonnement / réflexion unsloth run \ --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL \ --reasoning on \ --reasoning-effort medium ``` Le niveau d’effort de raisonnement et les indicateurs dépendent de ce que le modèle prend en charge. #### Ajuster le comportement de génération Les paramètres d’échantillonnage contrôlent à quel point le modèle se comporte de façon créative, ciblée ou déterministe pendant la génération. ```bash # Réduire l’aléa et améliorer la reproductibilité unsloth run \ --model unsloth/Qwen3-1.7B-GGUF \ --temp 0.6 \ --seed 42 ``` Des valeurs de température plus faibles produisent généralement des sorties plus stables, tandis que les paramètres top-p, top-k, min-p et pénalité de répétition contrôlent davantage la sélection des jetons et la répétition. ```bash # Ajuster la sélection des jetons et le comportement de répétition unsloth run \ --model unsloth/Qwen3-1.7B-GGUF \ --top-p 0.95 \ --top-k 20 \ --min-p 0.05 \ --repeat-penalty 1.1 ``` #### Augmenter la longueur de contexte et le nombre de threads CPU Utile si vous travaillez sur de gros projets, de longues conversations ou des flux de travail agentiques qui nécessitent plus de mémoire. ```bash # Utiliser une fenêtre de contexte plus grande et davantage de threads CPU unsloth run \ --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \ -c 131072 \ --threads 32 ``` #### Exposer l’API sur votre réseau local Par défaut, Unsloth s’exécute uniquement en local sur votre machine. Vous pouvez exposer l’API à d’autres appareils de votre réseau en liant à `0.0.0.0`. ```bash # Autoriser les appareils LAN à se connecter unsloth run \ --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \ -H 0.0.0.0 \ -p 8888 ``` #### Activer ou désactiver les outils côté serveur Contrôlez si des outils comme la recherche web et l’exécution de code sont exposés par le serveur d’inférence. ```bash # Activer explicitement les outils unsloth run \ --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \ --enable-tools ``` ```bash # Désactiver explicitement les outils unsloth run \ --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \ --disable-tools ``` Unsloth prend en charge la plupart des indicateurs d’exécution de llama-server, y compris le dimensionnement du contexte, les couches GPU, le multithreading, l’échantillonnage, le réseau et la configuration des outils. Voir la [llama-server](https://github.com/ggml-org/llama.cpp/tree/master/tools/server) documentation pour la liste complète des indicateurs d’exécution pris en charge. #### **Politique des outils côté serveur** `unsloth run` contrôle si les outils côté serveur (recherche web, exécution de code, etc.) sont exposés par le serveur d’inférence. Les valeurs par défaut dépendent de l’adresse de liaison : * **`127.0.0.1` (localhost)** — outils **activés** par défaut. Seule votre machine peut atteindre le serveur. * **`0.0.0.0` ou toute adresse non loopback** — outils **désactivés** par défaut. Une clé API divulguée sur un serveur exposé au réseau signifie une exécution de code arbitraire sur l’hôte. **Indicateurs :** * `--enable-tools` / `--disable-tools` — forcer l’activation ou la désactivation. Activé `0.0.0.0`, `--enable-tools` affiche une invite de sécurité y/N. * `--yes` / `-y` — ignorer l’invite (pour l’automatisation). La politique résolue est un remplacement strict au niveau du processus — les requêtes individuelles ne peuvent pas la contourner via `enable_tools=true` dans le corps de la requête.

### 🌐 **Points de terminaison** Unsloth expose ces points de terminaison sur le port sur lequel il a démarré (généralement `http://localhost:8000` ou `http://localhost:8888`): | Point de terminaison | Compatible avec | À utiliser depuis | | --------------------------- | --------------------------- | --------------------------------------------------------------------- | | `POST /v1/messages` | API Messages d’Anthropic | Claude Code, SDK Anthropic, OpenClaw, tout ce qui parle Anthropic | | `POST /v1/chat/completions` | API OpenAI Chat Completions | SDK OpenAI, opencode, Cursor, Continue, Cline, Open WebUI, curl, etc. | | `GET /v1/models` | liste des modèles OpenAI | Répertorier les modèles actuellement chargés dans Unsloth | Authentifiez-vous avec un `Authorization: Bearer sk-unsloth-…` en-tête à chaque requête. {% hint style="info" %} Vous n’avez pas besoin d’exécuter des serveurs différents pour les deux formats. Unsloth gère les deux sur le même port. {% endhint %} ### 🖇️ Connexion de votre client Unsloth vous permet d’exécuter des LLM locaux via la plupart des frameworks, notamment [Claude Code](/docs/fr/notions-de-base/claude-code.md), [Codex](/docs/fr/notions-de-base/codex.md), [OpenClaw](/docs/fr/integrations/openclaw.md), [OpenCode](/docs/fr/integrations/opencode.md) et plus encore. Cliquez sur les outils spécifiques ci-dessous pour un guide : {% columns %} {% column width="50%" %} {% content-ref url="/pages/6c4a155ae35df476974e25b66af4db620dffaf2c" %} [Claude Code](/docs/fr/notions-de-base/claude-code.md) {% endcontent-ref %} {% content-ref url="/pages/0bb2f0a13e244fd2f0ea640c96c4e297bf83db93" %} [OpenAI Codex](/docs/fr/notions-de-base/codex.md) {% endcontent-ref %} {% content-ref url="/pages/ecc958b339a16f14a987b979d96c3f7d2c0086d1" %} [Curl & HTTP](/docs/fr/integrations/connecter-curl-et-http-a-unsloth.md) {% endcontent-ref %} {% endcolumn %} {% column width="50%" %} {% content-ref url="/pages/fc0726cf8f72aecd0706033ae732e8e31cb48fcf" %} [OpenClaw](/docs/fr/integrations/openclaw.md) {% endcontent-ref %} {% content-ref url="/pages/5ed7fe5ad328b9ea2064f629be46409a5616379c" %} [OpenCode](/docs/fr/integrations/opencode.md) {% endcontent-ref %} {% content-ref url="/pages/46b648652a387a143566a8cd8b635a0b50c00204" %} [Python SDK](/docs/fr/integrations/connecter-le-sdk-python-a-unsloth.md) {% endcontent-ref %} {% endcolumn %} {% endcolumns %} Pour atteindre ce point de terminaison depuis une autre machine, lancez avec `unsloth studio --secure`. Unsloth reste lié à localhost et se publie sur une URL HTTPS Cloudflare gratuite ; utilisez cette URL à la place de `http://127.0.0.1:8888` comme URL de base de votre client. Notez que les événements envoyés par le serveur ne survivent pas à un tunnel rapide Cloudflare, alors définissez `stream: false` lors de l’appel via celui-ci. ### 🧰 Appel d’outils Les deux points de terminaison prennent en charge l’appel de fonctions / outils dans leur format natif, ainsi qu’un raccourci spécifique à Unsloth pour les outils intégrés d’Unsloth. **Outils au style OpenAI :** envoyez `outils` et `tool_choice` à `/v1/chat/completions` exactement comme vous le feriez avec OpenAI. Claude Code (via `/v1/messages`), opencode, Cursor, Continue et Cline fonctionnent sans configuration. **Outils au style Anthropic :** envoyez `outils` (avec `input_schema`) et `tool_choice` à `/v1/messages` exactement comme vous le feriez avec Claude. Outils côté serveur Unsloth : Unsloth peut exécuter Python, la recherche web et Bash *côté serveur* et diffuser les résultats sous forme de `tool_result` événements. Activez-les en ajoutant ces champs supplémentaires à l’un ou l’autre point de terminaison : ```json { "messages": [{"role": "user", "content": "Combien font 123 * 456 ? Utilisez Python."}], "stream": true, "enable_tools": true, "enabled_tools": ["python", "web_search","terminal"], "session_id": "my-session" } ``` Le modèle voit la sortie de chaque outil à son tour suivant. Pour une couverture plus approfondie (schémas, événements de streaming, chaînage), voir . {% hint style="info" %} Si vous utilisez le point de terminaison Anthropic `/v1/messages` , `tool_choice` se mappe proprement : Anthropic `auto` → OpenAI `auto`, Anthropic `n’importe quel` → OpenAI `obligatoire`, Anthropic `{type: "tool", name: "x"}` → OpenAI `{type: "function", function: {name: "x"}}`, Anthropic `aucun` → OpenAI `aucun`. {% endhint %} ### 📈 Moniteur API Chaque appel via ce point de terminaison est répertorié en direct dans Studio, à deux endroits : Le panneau latéral du moniteur API s’ouvre automatiquement dans le coin dès que du trafic de clé API arrive. Il résume le modèle actif, les requêtes en direct, les erreurs et la latence moyenne.

Appuyez sur « Développer en moniteur complet » ou allez dans Paramètres>API Monitor pour accéder à la page complète **API** où le chargement du modèle, les invites, les réponses, le nombre de jetons, le temps jusqu’au premier jeton, le débit et les messages d’erreur sont affichés dans le moniteur.

### ❔ Dépannage **`401 Unauthorized`** : soit le `Authorization` en-tête est manquant, soit la clé est incorrecte. Les clés doivent être transmises sous la forme `Authorization: Bearer sk-unsloth-…`. Si vous avez perdu la clé, créez-en une nouvelle dans **Paramètres → API.** Unsloth n’affiche pas les anciennes clés après leur création. **`Connexion perdue avec le serveur du modèle`** : Unsloth n'a pas pu joindre le serveur llama.cpp sous-jacent. En général, le modèle a fini de se charger mais a planté, ou l'onglet du modèle a été fermé dans Unsloth. Rechargez le modèle depuis **Nouvelle discussion** et réessayez. **Claude Code affiche le modèle Anthropic par défaut, pas mon modèle local** : vérifiez que les trois variables d'environnement sont exportées dans le **même** shell où vous exécutez `claude`: ```bash echo $ANTHROPIC_BASE_URL echo $ANTHROPIC_AUTH_TOKEN echo $ANTHROPIC_MODEL ``` Puis exécutez `/model` dans Claude Code pour confirmer. Sous Windows PowerShell, utilisez `$env:ANTHROPIC_BASE_URL` etc. **`stream: true` renvoie un seul bloc JSON au lieu de SSE** : assurez-vous d'appeler le bon chemin (`/v1/messages` ou `/v1/chat/completions`) et que votre client HTTP consomme bien la réponse en flux, sans la mettre en mémoire tampon. **Je ne trouve pas le nom du modèle à ajouter à opencode (ou OpenClaw / tout autre client)** : demandez directement à Unsloth. `GET /v1/models` renvoie l'identifiant exact du modèle à saisir dans le champ « Model ID » du client : ```bash curl http://localhost:8888/v1/models \\ -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" ``` Vous obtiendrez en retour une charge utile JSON de la forme `{"data": [{"id": "gemma-4-26B-A4B-it-GGUF", ...}]}`. Copiez la valeur `id` value, c'est la chaîne que le **ID du modèle** champ (colonne de gauche) et que le `models[].id` attendent. Le nom affiché à droite est celui que vous voulez montrer aux utilisateurs. **Les appels d'outils ne sont pas exécutés** : Le modèle doit prendre en charge l'appel d'outils pour les outils côté client (`outils` / `tool_choice`). Pour les outils intégrés d'Unsloth, n'oubliez pas de définir `enable_tools: true` **et** listez ceux que vous voulez dans `enabled_tools` (par ex. `["python", "web_search"]`). * **Mon client signale une erreur de connexion.** Ouvrez le moniteur API. Si aucune ligne n'apparaît pour l'appel, cela signifie qu'il n'a jamais atteint Unsloth ; comparez l'URL de base de votre client avec celle **URL de base** affichée en haut de cette page. * **La réponse est tronquée.** Vérifiez **Contexte utilisé** sur la requête dans le moniteur API. Près de 100 %, ou un motif d'arrêt de `longueur`, signifie que la fenêtre de contexte s'est remplie plutôt que le modèle n'ait échoué. --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://unsloth.ai/docs/fr/notions-de-base/api.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.