> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/fr/nouveau/studio/chat.md).

# Comment exécuter des modèles avec Unsloth Studio

[Unsloth Studio](/docs/fr/nouveau/studio.md) vous permet d'exécuter des modèles d'IA 100 % hors ligne sur votre ordinateur. Exécutez des formats de modèle comme GGUF et safetensors depuis Hugging Face ou depuis vos fichiers locaux.

* **Fonctionne sur toutes les configurations MacOS, CPU, Windows, Linux, WSL ! Aucun GPU requis**
* [**Appel d'outils auto-réparateur**](#auto-healing-tool-calling)**,** avancé [**recherche web**](#advanced-web-search), [**exécution de code**](#code-execution)
* Utilisez Unsloth comme une inférence compatible OpenAI [**point de terminaison API**](/docs/fr/bases/api.md) ou connectez un [fournisseur](/docs/fr/integrations/connections.md)
* Recherche + Téléchargement + Exécution + [Comparer](#model-arena) n'importe quel modèle comme des GGUF, des adaptateurs LoRA, des safetensors, etc.
* [**Paramètre d'inférence automatique**](#auto-parameter-tuning) réglage (temp, top-p etc.) et modifiez les templates de chat
* Téléchargez des images, de l'audio, des PDF, du code, des fichiers DOCX et bien d'autres types de fichiers avec lesquels discuter.

<figure><img src="/files/5b73218a32955029943d07713e050847da7e3e01" alt="" width="563"><figcaption></figcaption></figure>

### Utilisation de Unsloth Studio Chat

{% hint style="success" %}
Unsloth Studio Chat fonctionne automatiquement sur **des configurations multi-GPU** pour l'inférence.
{% endhint %}

{% columns %}
{% column %}

#### Exécution de code

Unsloth Studio permet aux LLM d'exécuter Bash et Python, pas seulement JavaScript. Il met aussi en bac à sable des programmes comme Claude Artifacts afin que les modèles puissent tester du code, générer des fichiers et vérifier les réponses avec de vrais calculs.

Cela rend les réponses des modèles plus fiables et plus précises.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/8d3032a7bd41a3a58d8581c0b9c8febe68e48077" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Appel d'outils auto-réparateur

Unsloth Studio ne permet pas seulement [l'appel d'outils](#id-50-tool-calling-accuracy), mais corrige aussi automatiquement les appels d'outils mal formés ou cassés de 50 %.

Cela signifie que vous obtiendrez toujours des sorties d'inférence **sans** appels d'outils cassés.&#x20;

Par ex. Qwen3.5-4B a recherché plus de 20 sites web et cité des sources, la recherche web se déroulant à l'intérieur de sa trace de réflexion.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/b03f506381fed38c517bc09e2e726bc0013f23f4" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Recherche web avancée

La recherche web illimitée et sécurisée d'Unsloth visite réellement les pages directement pour collecter des informations et des données pertinentes, et ne se contente pas de parcourir les résumés des sites web. Cela fournit des résultats avec des informations et un contexte bien plus précis / approfondis. La recherche utilise l'API privée et sécurisée de DuckDuckGo.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/5b73218a32955029943d07713e050847da7e3e01" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Utilisez Unsloth comme un point de terminaison API

Vous pouvez maintenant utiliser des LLM locaux via des outils comme [Claude Code](/docs/fr/bases/claude-code.md) et [Codex](/docs/fr/bases/codex.md) en le connectant au [point de terminaison API](#use-unsloth-as-an-api-endpoint).
{% endcolumn %}

{% column %}

<figure><img src="/files/1a2d152a014c5c542c774dac8c97d657a9f4124f" alt=""><figcaption></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Paramètres d'inférence automatiques

Les paramètres d'inférence comme **la température**, **le top-p**, **le top-k**, [**MTP**](/docs/fr/modeles/qwen3.6.md#mtp-guide) sont automatiquement préconfigurés pour les nouveaux modèles comme Qwen3.5 afin que vous puissiez obtenir les meilleurs résultats sans vous soucier des réglages. Vous pouvez aussi ajuster les paramètres manuellement et modifier le prompt système.

L'ajustement de la longueur du contexte n'est plus nécessaire avec le contexte automatique intelligent de llama.cpp, qui n'utilise que le contexte dont vous avez besoin sans charger quoi que ce soit en plus.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/85fc8084702579bd11c56183ae0b99d11cafcf65" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Connecter des fournisseurs

[Unsloth se connecte](/docs/fr/integrations/connections.md) à OpenAI, Anthropic, Ollama, llama.cpp, vLLM et à d'autres.

Ajoutez des clés API ou des URL de serveurs de modèles, puis utilisez des modèles externes dans la même interface de chat que les modèles locaux + cloud. Exécutez avec [la mise en cache des prompts](/docs/fr/integrations/connections.md#prompt-caching), l'appel d'outils, le raisonnement, et des fonctionnalités natives du fournisseur comme OpenAI's [recherche web](#web-search-and-thinking) et [exécution de code](#code-execution).
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/85fc8084702579bd11c56183ae0b99d11cafcf65" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Rechercher et exécuter des modèles

Vous pouvez rechercher et télécharger n'importe quel modèle via Hugging Face ou utiliser des fichiers locaux.

Unsloth prend en charge un large éventail de types de modèles, notamment **GGUF**, les modèles vision-langage et de synthèse vocale. Exécutez les derniers modèles comme [Qwen3.5](/docs/fr/modeles/qwen3.5.md) ou NVIDIA [Nemotron 3](/docs/fr/modeles/nemotron-3.md).

Téléchargez des images, de l'audio, des PDF, du code, des fichiers DOCX et bien d'autres types de fichiers avec lesquels discuter.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/2885112f766f1614a56fe25756dd558b131aa3f2" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Espace de travail de chat

Saisissez des prompts, joignez n'importe quels documents, images (webp, png), fichiers de code, txt ou audio comme contexte supplémentaire, et voyez les réponses du modèle en temps réel.

Activez ou désactivez : Réflexion + recherche web.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/2f8142ea99489385496d6332e8bdf629d599584f" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

### **+50 % de précision dans l'appel d'outils**

Unsloth offre plusieurs fonctionnalités uniques qui améliorent l'appel d'outils, notamment :

* Les appels d'outils sur tous les modèles dans Unsloth sont **30 % à 80 % plus précis**.
* La recherche web récupère le contenu web réel au lieu de seulement des résumés.
* Le nombre maximal d'appels d'outils autorisés est **supérieur à 25.**
* Les appels d'outils se terminent de manière plus fiable, réduisant les boucles et les appels répétés.
* Une logique améliorée de réparation et de déduplication des appels d'outils aide à empêcher les fuites de XML dans les sorties.

Voir les résultats des tests avec `unsloth/Qwen3.5-4B-GGUF (UD-Q4_K_XL)` avec la recherche web, l'exécution de code et la réflexion activées :

| Métrique                                      | Appel d'outils normal | Appel d'outils Unsloth |
| --------------------------------------------- | --------------------- | ---------------------- |
| Fuites de XML dans la réponse                 | 10/10                 | 0/10                   |
| Récupérations d'URL utilisées                 | 0                     | 4/10 exécutions        |
| Exécutions avec les noms de chansons corrects | 0/10                  | 2/10                   |
| Moy. d'appels d'outils                        | 5.5                   | 3.8                    |
| Temps de réponse moyen                        | 12,3 s                | 9,8 s                  |

### Arène des modèles

Unsloth Chat vous permet de comparer côte à côte n'importe quels deux modèles avec le même prompt. Par ex. comparez le modèle de base et l'adaptateur LoRA. L'inférence chargera d'abord un modèle, puis le second (l'inférence parallèle est en cours de développement).

<div data-with-frame="true"><figure><img src="/files/a2e0d4bfd76d0287d9b02f802fd667c9e1ac821e" alt="" width="563"><figcaption></figcaption></figure></div>

{% columns %}
{% column %}
Après l'entraînement, vous pouvez comparer le modèle de base et le modèle fine-tuned côte à côte avec le même prompt pour voir ce qui a changé et si les résultats se sont améliorés.

Ce flux de travail facilite l'observation de la manière dont votre fine-tuning a modifié les réponses du modèle et de savoir s'il a amélioré les résultats pour votre cas d'utilisation.
{% endcolumn %}

{% column %}

<div align="center" data-with-frame="true"><figure><img src="/files/363f22dc6187049e754bdae94b495a45c68bb1b9" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% hint style="success" %}
Unsloth Studio Chat fonctionne automatiquement sur **des configurations multi-GPU** pour l'inférence.
{% endhint %}

### Utilisation d'anciens modèles GGUF / existants

{% columns %}
{% column %}
**Mise à jour du 1er avril :** Vous pouvez maintenant sélectionner un dossier existant à partir duquel Unsloth doit détecter.

**Mise à jour du 27 mars :** Unsloth Studio détecte désormais **automatiquement les modèles plus anciens / déjà existants** téléchargés depuis Hugging Face, LM Studio, etc.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="/files/089d4b6412408ae0b8fd66eecc20eac7aa886d13" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

**Instructions manuelles :** Unsloth Studio détecte les modèles téléchargés dans le cache de votre Hugging Face Hub `(C:\Users{your_username}.cache\huggingface\hub)`. Si vous avez téléchargé des modèles GGUF via LM Studio, notez qu'ils sont stockés dans `C:\Users\{your_username}.cache\lm-studio\models` ***OU*** `C:\Users{your_username}\lm-studio\models` et ne sont pas visibles par défaut par llama.cpp - vous devrez déplacer ou copier ces fichiers .gguf dans le répertoire de cache de votre Hugging Face Hub (ou dans un autre chemin accessible à llama.cpp) pour qu'Unsloth Studio les charge.

Après avoir fine-tuné un modèle ou un adaptateur dans Unsloth, vous pouvez l'exporter en GGUF et exécuter l'inférence locale avec **llama.cpp** directement dans Unsloth Chat. Unsloth Studio est propulsé par llama.cpp et Hugging Face.

### Ajouter des fichiers comme contexte

Unsloth Chat prend en charge directement les entrées multimodales dans la conversation. Vous pouvez joindre des documents, des images ou de l'audio comme contexte supplémentaire pour un prompt.

<div data-with-frame="true"><figure><img src="/files/23726c6bd636565d1a3e66276e12b90752273f88" alt="" width="563"><figcaption></figcaption></figure></div>

Cela permet de tester facilement comment un modèle gère des entrées réelles telles que des PDF, des captures d'écran ou du matériel de référence. Les fichiers sont traités localement et inclus comme contexte pour le modèle.

### **Suppression des fichiers de modèle**

Vous pouvez supprimer d'anciens fichiers de modèle soit depuis l'icône de la corbeille dans la recherche de modèles, soit en supprimant le dossier de cache du modèle concerné du répertoire de cache Hugging Face par défaut. Par défaut, Hugging Face utilise `~/.cache/huggingface/hub/` sur macOS/Linux/WSL et `C:\Users\<username>\.cache\huggingface\hub\` sur Windows.

* **MacOS, Linux, WSL :** `~/.cache/huggingface/hub/`
* **Windows :** `%USERPROFILE%\.cache\huggingface\hub\`

Si `HF_HUB_CACHE` ou `HF_HOME` est défini, utilisez cet emplacement à la place. Sur Linux et WSL, `XDG_CACHE_HOME` peut également modifier la racine du cache par défaut.

### **Unsloth ne détecte pas ou n'utilise pas mon GPU**

Si le modèle n'utilise pas spécifiquement votre GPU pour Docker, essayez :

Tirez manuellement la dernière image :

```bash
 docker pull unsloth/unsloth:latest
```

* Démarrez le conteneur avec l'accès au GPU :
  * `docker run`: `--gpus all`
  * Docker Compose : `capabilities: [gpu]`
* Sur Linux, assurez-vous que le NVIDIA Container Toolkit est installé.
* Sur Windows :
  * Vérifiez que `nvcc --version` correspond à la version CUDA indiquée dans `nvidia-smi`
  * Suivez : <https://docs.docker.com/desktop/features/gpu/>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/fr/nouveau/studio/chat.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.