Comment fine-tuner des LLMs sur Windows avec Unsloth (guide étape par étape)

Vous pouvez désormais affiner des modèles directement sur votre appareil Windows local sans WSL en utilisant Unsloth. Pour ce guide, il existe 3 méthodes principales que vous pouvez utiliser (Conda, Docker et WSL). Si PyTorch est déjà installé sur Windows, pip install unsloth devrait fonctionner. Sinon, suivez nos guides ci-dessous :

Tutoriel CondaTutoriel DockerTutoriel WSL

Unsloth Studio

Nous avons lancé une nouvelle interface web appelée Unsloth Studio qui fonctionne sur Windows immédiatement, sans configuration :

irm https://unsloth.ai/install.ps1 | iex

Utilisez la même commande pour mettre à jour ou utiliser unsloth studio update.

Ensuite, pour lancer à chaque fois :

unsloth studio -H 0.0.0.0 -p 8888

Pour des instructions d’installation détaillées et les prérequis d’Unsloth Studio, consultez notre guide.

Vous trouverez ci-dessous les instructions d’installation pour l’original Unsloth Core:

Méthode n°1 - Windows via Conda :

1

Installer Miniconda (ou Anaconda)

Téléchargez Anaconda ici. Nous vous suggérons d’utiliser Miniconda. Pour l’utiliser, ouvrez d’abord Powershell - recherchez « Windows Powershell » dans Démarrer :

Ensuite, Powershell s’ouvrira :

Puis copiez-collez ce qui suit : CTRL+C, puis collez-le dans Powershell avec CTRL+V :

Copier

Invoke-WebRequest -Uri "https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe" -OutFile ".\miniconda.exe"
Start-Process -FilePath ".\miniconda.exe" -ArgumentList "/S" -Wait
del .\miniconda.exe

Acceptez l’avertissement et appuyez sur « Coller quand même », puis attendez.

Il télécharge l’installateur comme ci-dessous :

Après l’installation, ouvrez le Anaconda Powershell Prompt pour utiliser Miniconda via Démarrer -> recherchez-le :

Vous verrez alors :

2

Créer un environnement conda

Copier

conda create --name unsloth_env python==3.12 -y
conda activate unsloth_env

Vous verrez :

3

Vérifiez nvidia-smi pour confirmer que vous avez un GPU, et vérifiez la version de CUDA

Après avoir tapé nvidia-smi dans Powershell, vous devriez voir quelque chose comme ci-dessous. Si vous n’avez pas nvidia-smi ou si cela échoue à s’afficher ci-dessous, vous devez réinstaller les pilotes NVIDIA.

4

Installer PyTorch

Lors de l’exécution de nvidia-smi vous verrez en haut à droite : « CUDA Version: 13.0 ». Installez PyTorch dans PowerShell via. Changez 130 pour correspondre à votre version de CUDA - assurez-vous que la version existe et correspond à la version de votre pilote CUDA.

Copier

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu130

Vous verrez :

Essayez d’exécuter ceci dans Python via python une fois PyTorch installé :

Copier

import torch
print(torch.cuda.is_available())
A = torch.ones((10, 10), device = "cuda")
B = torch.ones((10, 10), device = "cuda")
A @ B

Vous devriez voir une matrice de 10. Vérifiez également que le premier renvoie True.

5

Installer Unsloth (uniquement si PyTorch fonctionne !)

Confirmez que PyTorch fonctionne correctement et s’exécute - sinon, PyTorch est cassé et cela signifie malheureusement que votre machine Windows pourrait nécessiter une réinstallation des pilotes CUDA.

Dans Powershell (après avoir quitté Python via exit() , faites-le et attendez :

Copier

pip install unsloth

6

Vérifier qu’Unsloth fonctionne

Utilisez maintenant n’importe quel script dans Carnets Unsloth (enregistrez-le dans un fichier .py), ou utilisez le script de base ci-dessous :

Vous devriez voir :

Copier

🦥 Unsloth : Nous allons modifier votre ordinateur pour permettre un affinage gratuit 2x plus rapide.
🦥 Unsloth Zoo va maintenant tout modifier pour accélérer l’entraînement !
==((====))==  Unsloth 2026.1.4 : patching rapide de Gemma3. Transformers : 4.57.6.
   \\   /|    NVIDIA GeForce RTX 3060. Nombre de GPU = 1. Mémoire max : 12.0 Go. Plateforme : Windows.
O^O/ \_/ \    Torch : 2.10.0+cu130. CUDA : 8.6. Toolkit CUDA : 13.0. Triton : 3.6.0
\        /    Bfloat16 = TRUE. FA [Xformers = 0.0.34. FA2 = False]
 "-____-"     Licence gratuite : http://github.com/unslothai/unsloth
Unsloth : le téléchargement rapide est activé - ignorez les barres de téléchargement rouges !
Unsloth : Gemma3 ne prend pas en charge SDPA - passage à fast eager.
Unsloth : rendre `model.base_model.model.model` nécessitant des gradients
Unsloth : Tokenisation ["text"] (num_proc=1) :   0%|                 | 0/210289 [00:00<?, ? examples/s]�  Unsloth : Nous allons modifier votre ordinateur pour permettre un affinage gratuit 2x plus rapide.
🦥 Unsloth : Nous allons modifier votre ordinateur pour permettre un affinage gratuit 2x plus rapide.

Et l’entraînement :

Méthode n°2 - Docker :

Docker est peut-être le moyen le plus simple pour les utilisateurs Windows de commencer avec Unsloth, car aucune configuration ni problème de dépendance n’est nécessaire. unsloth/unsloth est la seule image Docker d’Unsloth. Pour Blackwell et les GPU de la série 50, utilisez cette même image - aucune image séparée n’est nécessaire.

Pour les instructions d’installation, veuillez suivre notre guide Docker, sinon voici un guide de démarrage rapide :

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

Méthode n°3 - WSL :

Dépannage / Avancé

Pour les instructions d’installation avancées ou si vous voyez des erreurs étranges pendant les installations :

1. Installer torch et triton. Allez sur https://pytorch.org pour l’installer. Par exemple pip install torch torchvision torchaudio triton

2. Confirmez si CUDA est correctement installé. Essayez nvcc. Si cela échoue, vous devez installer cudatoolkit ou les pilotes CUDA.

3. Si vous utilisez un GPU Intel, vous devrez suivre notre guide Windows Intel

4. Installer xformers manuellement. Vous pouvez essayer d’installer vllm et voir si vllm réussit. Vérifiez si xformers a réussi avec python -m xformers.info Allez sur https://github.com/facebookresearch/xformers. Une autre option consiste à installer flash-attn pour les GPU Ampere.

5. Vérifiez à nouveau que vos versions de Python, CUDA, CUDNN, torch, triton, et xformers sont compatibles entre elles. Le tableau de compatibilité PyTorch peut être utile.

6. Enfin, installez bitsandbytes et vérifiez-le avec python -m bitsandbytes

7. Si Unsloth ne détecte pas ou n’utilise pas votre GPU et si vous utilisez notre conteneur Docker sous Windows, votre version du toolkit CUDA nvcc --version doit correspondre à la version de CUDA affichée par nvidia-smi sur l’hôte. La prise en charge du GPU pour les conteneurs Docker sous Windows n’est pas automatique. Vous devez suivre le guide de Docker.

Désinstaller Unsloth Studio

Pour désinstaller Unsloth Studio sur Windows, suivez ces 4 étapes :

1. Supprimez l’application

• WSL : rm -rf ~/.unsloth/studio/unsloth_studio

• Windows (PowerShell) : Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"

Cela supprime l’application mais conserve intacts vos checkpoints de modèle, exportations, historique, cache et discussions.

2. Supprimez les raccourcis et les liens symboliques

WSL / Windows (PowerShell) :

3. Supprimez la commande CLI

WSL :

Windows (PowerShell) : Le programme d’installation a ajouté le répertoire Scripts du venv à votre PATH utilisateur. Pour le supprimer, ouvrez Paramètres → Système → À propos → Paramètres système avancés → Variables d’environnement, recherchez Path sous Variables utilisateur, puis supprimez l’entrée pointant vers .unsloth\studio\...\Scripts.

4. Supprimez tout (facultatif)

Pour supprimer également l’historique, le cache, les discussions, les checkpoints de modèle et les exports de modèle, supprimez le dossier Unsloth entier :

• WSL, Linux : rm -rf ~/.unsloth

• Windows (PowerShell) : Remove-Item -Recurse -Force "$HOME\.unsloth"

Notez que les fichiers de modèle HF téléchargés sont stockés séparément dans le cache Hugging Face - aucune des étapes ci-dessus ne les supprimera. Voir Suppression des fichiers de modèle ci-dessous si vous souhaitez récupérer cet espace disque.