> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/fr/nouveau/studio/chat.md).

# Comment exécuter des modèles avec Unsloth

Exécutez localement des modèles IA, des LLM et des GGUF avec Unsloth Studio.

[Unsloth Studio](https://unsloth.ai/docs/fr/nouveau/studio.md) et Unsloth Desktop vous permet d’exécuter des modèles d’IA 100 % hors ligne sur votre ordinateur. Lancez des modèles aux formats GGUF et safetensors depuis Hugging Face ou vos fichiers locaux.

* **Fonctionne sur toutes les configurations macOS, CPU, Windows, Linux et WSL ! Aucun GPU requis**
* [**Appels d’outils avec correction automatique**](#auto-healing-tool-calling)**,** avancée [**recherche sur le Web**](#advanced-web-search), [**exécution de code**](#code-execution)
* Utilisez Unsloth comme service d’inférence compatible avec OpenAI [**point de terminaison d’API**](https://unsloth.ai/docs/fr/notions-de-base/api.md) ou connectez un [fournisseur](https://unsloth.ai/docs/fr/integrations/connections.md)
* Rechercher + Télécharger + Exécuter + [Comparer](#model-arena) n’importe quel modèle, comme les GGUF, les adaptateurs LoRA, les safetensors, etc.
* [**Réglage automatique des paramètres**](#auto-parameter-tuning) d’inférence (temp, top-p, etc.) et modification des modèles de conversation
* Importez des images, des fichiers audio, des PDF, du code, des fichiers DOCX et bien d’autres types de fichiers pour discuter avec leur contenu.

<figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVrjsMhR9uLeIlqzD2jAL%2Fqwen37b.gif?alt=media&amp;token=f1bb11b4-d4fa-4765-83b7-bbba563082c9" alt="" width="563"><figcaption></figcaption></figure>

### Utiliser Unsloth Studio Chat

{% hint style="success" %}
Unsloth Studio Chat fonctionne automatiquement sur les configurations **à plusieurs GPU** pour l’inférence.
{% endhint %}

{% columns %}
{% column %}

#### Exécution de code

Unsloth Studio permet aux LLM d’exécuter Bash et Python, et pas seulement JavaScript. Il exécute également les programmes dans un environnement isolé, comme Claude Artifacts, afin que les modèles puissent tester du code, générer des fichiers et vérifier leurs réponses par des calculs réels.

Les réponses des modèles sont ainsi plus fiables et plus précises.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fel6jjv4rUTRCRwcRpIr7%2Flong%20code%20exec.png?alt=media&amp;token=9d3d5930-0fdc-4d97-941c-983e5629296d" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Appels d’outils avec correction automatique

Unsloth Studio permet non seulement les [appels d’outils](#id-50-tool-calling-accuracy), mais corrige également automatiquement 50 % des appels d’outils mal formés ou défectueux.

Vous obtiendrez ainsi toujours des résultats d’inférence **sans** appels d’outils défectueux.&#x20;

Par exemple, Qwen3.5-4B a consulté plus de 20 sites Web et cité ses sources, la recherche sur le Web ayant lieu dans sa trace de raisonnement.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FXPQGEEr1YoKofrTatAKK%2Ftoolcallingif.gif?alt=media&amp;token=25d68698-fb13-4c46-99b2-d39fb025df08" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Recherche avancée sur le Web

La recherche sur le Web illimitée et sécurisée d’Unsloth consulte directement les pages pour recueillir des informations et des données pertinentes, au lieu de se contenter de parcourir les résumés des sites Web. Les résultats sont ainsi beaucoup plus précis et fournissent des informations et un contexte plus approfondis. La recherche utilise l’API privée et sécurisée de DuckDuckGo.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVrjsMhR9uLeIlqzD2jAL%2Fqwen37b.gif?alt=media&amp;token=f1bb11b4-d4fa-4765-83b7-bbba563082c9" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Utiliser Unsloth comme point de terminaison d’API

Vous pouvez désormais utiliser des LLM locaux avec des outils tels que [Claude Code](https://unsloth.ai/docs/fr/notions-de-base/claude-code.md) et [Codex](https://unsloth.ai/docs/fr/notions-de-base/codex.md) en les connectant au [point de terminaison d’API](#use-unsloth-as-an-api-endpoint). Vous pourrez ainsi exécuter directement des modèles Qwen et Gemma dans ces outils grâce au moteur d’inférence d’Unsloth, qui comprend des fonctionnalités telles que la correction automatique des appels d’outils, la recherche sur le Web, etc.
{% endcolumn %}

{% column %}

<figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F1s98Id9xclzwMfxjXw2O%2Funsloth%20api%20cropped.png?alt=media&amp;token=64fac263-ca5b-4447-a740-41f58ec94904" alt=""><figcaption></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Paramètres d’inférence automatiques

Les paramètres d’inférence tels que **la température**, **top-p**, **top-k**, [**MTP**](https://unsloth.ai/docs/fr/modeles/qwen3.6.md#mtp-guide) sont automatiquement prédéfinis pour les nouveaux modèles comme Qwen3.5, afin d’obtenir les meilleurs résultats sans avoir à vous soucier des réglages. Vous pouvez également ajuster les paramètres manuellement et modifier le prompt système.

Il n’est plus nécessaire d’ajuster la longueur du contexte grâce à la gestion automatique intelligente du contexte de llama.cpp, qui n’utilise que le contexte dont vous avez besoin, sans rien charger de superflu.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAQKsjtynvCXKtadvKhq1%2FRecording%202026-03-13%20114257.gif?alt=media&amp;token=b5bfff0c-8189-4358-9344-08d0ae17782a" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Connecter des fournisseurs

[Unsloth se connecte](https://unsloth.ai/docs/fr/integrations/connections.md) à OpenAI, Anthropic, Ollama, llama.cpp, vLLM et bien d’autres.

Ajoutez des clés API ou les URL de serveurs de modèles, puis utilisez des modèles externes dans la même interface de chat que les modèles locaux et cloud. Lancez-les avec [la mise en cache des prompts](https://unsloth.ai/docs/fr/integrations/connections.md#prompt-caching), l’appel d’outils, le raisonnement et des fonctionnalités propres aux fournisseurs, comme la [recherche sur le Web](#web-search-and-thinking) et l’ [exécution de code](#code-execution).
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAQKsjtynvCXKtadvKhq1%2FRecording%202026-03-13%20114257.gif?alt=media&amp;token=b5bfff0c-8189-4358-9344-08d0ae17782a" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Rechercher et exécuter des modèles

Vous pouvez rechercher et télécharger n’importe quel modèle via Hugging Face, ou utiliser des fichiers locaux.

Unsloth prend en charge un large éventail de types de modèles, notamment **GGUF**, les modèles vision-langage et les modèles de synthèse vocale. Exécutez les derniers modèles, comme [Qwen3.5](https://unsloth.ai/docs/fr/modeles/qwen3.5.md) ou [Nemotron 3 de NVIDIA](https://unsloth.ai/docs/fr/modeles/nemotron-3.md).

Importez des images, des fichiers audio, des PDF, du code, des fichiers DOCX et bien d’autres types de fichiers pour discuter avec leur contenu.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FBf3UDywdNSlvCBhUuVsp%2FScreenshot%202026-03-17%20at%2012.34.23%E2%80%AFAM.png?alt=media&amp;token=b6127cbf-76f7-48da-b869-3760ed5e9b42" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Espace de chat

Saisissez des prompts, joignez des documents, des images (webp, png), des fichiers de code, des fichiers txt ou des fichiers audio comme contexte supplémentaire, puis consultez les réponses du modèle en temps réel.

Activez ou désactivez le raisonnement et la recherche sur le Web.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FHlOKWnSB6slhE1EXgAeZ%2Fimage.png?alt=media&amp;token=b5bdfe4e-fe0e-4a2a-9eba-b04b15a79018" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

### **+50 % de précision dans l’appel d’outils**

Unsloth offre plusieurs fonctionnalités uniques qui améliorent l’appel d’outils, notamment :

* Les appels d’outils de tous les modèles dans Unsloth sont **30 à 80 % plus précis**.
* La recherche sur le Web récupère du contenu réel, plutôt que de simples résumés.
* Le nombre maximal d’appels d’outils autorisés est **supérieur à 25.**
* Les appels d’outils se terminent de manière plus fiable, ce qui réduit les boucles et les appels répétés.
* L’amélioration de la réparation des appels d’outils et de la logique de déduplication contribue à empêcher les balises XML d’apparaître dans les résultats.

Consultez les résultats des tests avec `unsloth/Qwen3.5-4B-GGUF (UD-Q4_K_XL)` avec la recherche sur le Web, l’exécution de code et le raisonnement activés :

| Mesure                                    | Appel d’outils standard | Appel d’outils avec Unsloth |
| ----------------------------------------- | ----------------------- | --------------------------- |
| Balises XML dans la réponse               | 10/10                   | 0/10                        |
| Récupérations d’URL utilisées             | 0                       | 4 exécutions sur 10         |
| Exécutions avec les bons noms de chansons | 0/10                    | 2/10                        |
| Nombre moyen d’appels d’outils            | 5.5                     | 3.8                         |
| Temps de réponse moyen                    | 12,3 s                  | 9,8 s                       |

### Arène des modèles

Unsloth Chat vous permet de comparer côte à côte deux modèles quelconques à l’aide du même prompt. Vous pouvez, par exemple, comparer le modèle de base et l’adaptateur LoRA. L’inférence chargera d’abord un modèle, puis le second (l’inférence parallèle est en cours de développement).

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FC3xjqlunbpUr7nx6sQ4j%2Fimage.png?alt=media&amp;token=65501d63-1346-4a1e-b055-c94294a24305" alt="" width="563"><figcaption></figcaption></figure></div>

{% columns %}
{% column %}
Après l’entraînement, vous pouvez comparer côte à côte le modèle de base et le modèle affiné à l’aide du même prompt afin de voir ce qui a changé et si les résultats se sont améliorés.

Ce flux de travail permet de voir facilement comment votre réglage fin a modifié les réponses du modèle et s’il a amélioré les résultats pour votre cas d’utilisation.
{% endcolumn %}

{% column %}

<div align="center" data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVgnE7eMPQk2vaFboJ4BU%2Fmodel%20arena%20closeup.png?alt=media&amp;token=8b0a910b-440c-4859-a846-0060e61e157b" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% hint style="success" %}
Le chat d’Unsloth Studio fonctionne automatiquement sur les configurations **à plusieurs GPU** pour l’inférence.
{% endhint %}

### Utiliser d’anciens modèles GGUF / des modèles GGUF existants

{% columns %}
{% column %}
**Mise à jour du 1er avril :** Vous pouvez désormais sélectionner un dossier existant à analyser par Unsloth.

**Mise à jour du 27 mars :** Unsloth Studio **détecte désormais automatiquement les anciens modèles / les modèles déjà présents** téléchargés depuis Hugging Face, LM Studio, etc.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FBn3Fs1cchFchl328wSOs%2FScreenshot%202026-04-05%20at%205.43.57%E2%80%AFAM.png?alt=media&amp;token=cc57ec6e-653a-4824-8e8d-a6bfbcd27493" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

**Instructions manuelles :** Unsloth Studio détecte les modèles téléchargés dans le cache de votre Hub Hugging Face `(C:\Users{your_username}.cache\huggingface\hub)`. Si vous avez téléchargé des modèles GGUF via LM Studio, sachez qu’ils sont enregistrés dans `C:\Users\{your_username}.cache\lm-studio\models` ***OU*** `C:\Users{your_username}\lm-studio\models` et qu’ils ne sont pas accessibles à llama.cpp par défaut. Vous devrez déplacer ou copier ces fichiers .gguf dans le répertoire du cache de votre Hub Hugging Face (ou dans un autre chemin accessible à llama.cpp) pour qu’Unsloth Studio puisse les charger.

Après avoir affiné un modèle ou un adaptateur dans Unsloth, vous pouvez l’exporter au format GGUF et exécuter une inférence locale avec **llama.cpp** directement dans Unsloth Chat. Unsloth Studio s’appuie sur llama.cpp et Hugging Face.

### Ajouter des fichiers comme contexte

Unsloth Chat prend en charge les entrées multimodales directement dans la conversation. Vous pouvez joindre des documents, des images ou des fichiers audio pour fournir un contexte supplémentaire à une invite.

<div data-with-frame="true"><figure><img src="https://550366147-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSitddQpGkOwUvirMem5P%2Fimage.png?alt=media&amp;token=43b7af91-ea86-4279-a787-b4b444640d82" alt="" width="563"><figcaption></figcaption></figure></div>

Cela permet de tester facilement la façon dont un modèle traite des données réelles, comme des PDF, des captures d’écran ou des documents de référence. Les fichiers sont traités localement et ajoutés au contexte fourni au modèle.

### Sources du projet et dossiers liés

Utilisez **Ajouter des sources** pour les fichiers individuels, ou **Ajouter un dossier** pour lier un dossier. Unsloth vérifie les dossiers liés toutes les 30 secondes pour détecter les fichiers ajoutés, modifiés ou supprimés, sans modifier les fichiers d’origine.

Les trois compteurs d’indexation mesurent des éléments différents :

| Compteur                                    | Signification                                                                                                                                                                                                                                                              |
| ------------------------------------------- | -------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| **Dossiers sources**: `750 of 7692 files`   | Fichiers traités lors de cette synchronisation (ajoutés, mis à jour, supprimés ou en échec) sur le nombre total de fichiers pris en charge trouvés. Les fichiers déjà indexés sont ignorés ; une synchronisation reprise peut donc se terminer avant d’atteindre le total. |
| **Étiquette du dossier**: `1342 files`      | Fichiers de ce dossier déjà présents dans l’index du projet. Le pourcentage affiché par l’indicateur de progression correspond à la part entièrement indexée.                                                                                                              |
| **Sources du projet**: `Indexing 2 of 1342` | Fichiers en cours de lecture et de vectorisation, sur le nombre indiqué dans l’étiquette du dossier. **Il ne s’agit pas de la progression globale.**                                                                                                                       |

Une fois l’indexation terminée, l’indicateur de progression de la ligne **Dossiers sources** s’arrête et la ligne affiche `N files indexed`. Les fichiers ignorés sont répertoriés sous le dossier : les fichiers correspondant à `.gitignore` les dossiers de compilation, les fichiers de données très volumineux et les fichiers dépassant la limite de 10 000 fichiers.

Le menu du dossier propose les options **Synchroniser les modifications**, **Reconstruire l’index**et la dissociation, avec ou sans conservation des fichiers indexés.

### **Suppression des fichiers de modèle**

Vous pouvez supprimer les anciens fichiers de modèle depuis l’icône de corbeille dans la recherche de modèles ou en supprimant le dossier de modèle correspondant du cache Hugging Face par défaut. Par défaut, Hugging Face utilise `~/.cache/huggingface/hub/` sur macOS/Linux/WSL et `C:\Users\<username>\.cache\huggingface\hub\` sur Windows.

* **macOS, Linux, WSL :** `~/.cache/huggingface/hub/`
* **Windows :** `%USERPROFILE%\.cache\huggingface\hub\`

Si `HF_HUB_CACHE` ou `HF_HOME` est défini, utilisez plutôt cet emplacement. Sous Linux et WSL, `XDG_CACHE_HOME` peut également modifier la racine du cache par défaut.

### **Unsloth ne détecte pas mon GPU ou ne l’utilise pas**

Si le modèle n’utilise pas votre GPU, en particulier avec Docker, essayez :

Récupérez manuellement la dernière image :

```bash
 docker pull unsloth/unsloth:latest
```

* Démarrez le conteneur avec l’accès au GPU :
  * `docker run`: `--gpus all`
  * Docker Compose : `capabilities: [gpu]`
* Sous Linux, vérifiez que NVIDIA Container Toolkit est installé.
* Sous Windows :
  * Vérifiez que `nvcc --version` correspond à la version de CUDA indiquée par `nvidia-smi`
  * Consultez : <https://docs.docker.com/desktop/features/gpu/>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/fr/nouveau/studio/chat.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
