Installer Unsloth sur Windows

Voyez comment installer Unsloth sur Windows pour commencer l'ajustement des LLM localement.

Apprenez à affiner des LLM directement sur votre appareil Windows sans WSL en utilisant Unsloth. Pour Windows, pip install unsloth fonctionne, cependant vous devez avoir PyTorch installé auparavant. Sinon, vous pouvez suivre nos guides ci-dessous :

Tutoriel Conda Tutoriel Docker Tutoriel WSL

Méthode n°1 - Windows via Conda :

Installer Miniconda (ou Anaconda)

Télécharger Anaconda ici. Notre suggestion est d'utiliser Miniconda. Pour l'utiliser, ouvrez d'abord Powershell - recherchez "Windows Powershell" dans le menu Démarrer :

Puis il ouvrira Powershell :

Ensuite copiez-collez ce qui suit : CTRL+C, et collez-le dans Powershell CTRL+V :

Invoke-WebRequest -Uri "https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe" -OutFile ".\miniconda.exe"
Start-Process -FilePath ".\miniconda.exe" -ArgumentList "/S" -Wait
del .\miniconda.exe

Acceptez l'avertissement et appuyez sur "Coller quand même" et attendez.

Il télécharge l'installateur comme ci-dessous :

Après l'installation, ouvrez Anaconda Powershell Prompt pour utiliser Miniconda via Démarrer -> Recherchez-le :

Ensuite vous verrez :

Créer un environnement conda

conda create --name unsloth_env python==3.12 -y
conda activate unsloth_env

Vous verrez :

Vérifier nvidia-smi pour confirmer que vous avez un GPU, et recherchez la version de CUDA

Après avoir tapé nvidia-smi dans Powershell, vous devriez voir quelque chose comme ci-dessous. Si vous n'avez pas nvidia-smi ou si ce qui suit n'apparaît pas, vous devez réinstaller pilotes NVIDIA.

Installer PyTorch

Lors de l'exécution de nvidia-smi vous verrez en haut à droite : "CUDA Version: 13.0". Installez PyTorch dans PowerShell via. Changez 130 par votre version de CUDA - assurez-vous que la version existe et correspond à la version de votre pilote CUDA.

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu130

Vous verrez :

Essayez d'exécuter ceci dans Python via python après l'installation de PyTorch :

import torch
print(torch.cuda.is_available())
A = torch.ones((10, 10), device = "cuda")
B = torch.ones((10, 10), device = "cuda")
A @ B

Vous devriez voir une matrice de 10. Vérifiez également que le premier renvoie True.

Installer Unsloth (uniquement si PyTorch fonctionne !)

Confirmez que PyTorch fonctionne correctement et s'exécute - si PyTorch ne fonctionne pas, cela signifie malheureusement que votre machine Windows pourrait nécessiter une réinstallation des pilotes CUDA.

Dans Powershell (après être sorti de Python via exit() , faites et attendez :

pip install unsloth

Vérifier qu'Unsloth fonctionne

Maintenant utilisez n'importe quel script dans Notebooks Unsloth (enregistrez en fichier .py), ou utilisez le script de base ci-dessous :

from unsloth import FastLanguageModel, FastModel
import torch
from trl import SFTTrainer, SFTConfig
from datasets import load_dataset
max_seq_length = 512
url = "https://huggingface.co/datasets/laion/OIG/resolve/main/unified_chip2.jsonl"
dataset = load_dataset("json", data_files = {"train" : url}, split = "train")

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "unsloth/gemma-3-270m-it",
    max_seq_length = max_seq_length, # Choisissez n'importe quelle valeur pour un long contexte !
    load_in_4bit = True,  # quantification 4 bits. False = LoRA en 16 bits.
    load_in_8bit = False, # quantification 8 bits
    load_in_16bit = False, # LoRA 16 bits
    full_finetuning = False, # Utiliser pour un fine-tuning complet.
    trust_remote_code = False, # Activer pour prendre en charge de nouveaux modèles
    # token = "hf_...", # en utiliser un si vous utilisez des modèles restreints
)

# Effectuer le patching du modèle et ajouter des poids LoRA rapides
model = FastLanguageModel.get_peft_model(
    model,
    r = 16,
    target_modules = ["q_proj", "k_proj", "v_proj", "o_proj",
                      "gate_proj", "up_proj", "down_proj",],
    lora_alpha = 16,
    lora_dropout = 0, # Prend en charge n'importe quelle valeur, mais = 0 est optimisé
    bias = "none",    # Prend en charge n'importe quelle valeur, mais = "none" est optimisé
    # [NOUVEAU] "unsloth" utilise 30% de VRAM en moins, permet des tailles de lot 2x plus grandes !
    use_gradient_checkpointing = "unsloth", # True ou "unsloth" pour des contextes très longs
    random_state = 3407,
    max_seq_length = max_seq_length,
    use_rslora = False,  # Nous prenons en charge LoRA stabilisé en rang
    loftq_config = None, # Et LoftQ
)

trainer = SFTTrainer(
    model = model,
    train_dataset = dataset,
    tokenizer = tokenizer,
    args = SFTConfig(
        max_seq_length = max_seq_length,
        per_device_train_batch_size = 2,
        gradient_accumulation_steps = 4,
        warmup_steps = 10,
        max_steps = 60,
        logging_steps = 1,
        output_dir = "outputs",
        optim = "adamw_8bit",
        seed = 3407,
        dataset_num_proc = 1,
    ),
)
trainer.train()

Vous devriez voir :

🦥 Unsloth : Patchera votre ordinateur pour permettre un fine-tuning gratuit 2x plus rapide.
🦥 Unsloth Zoo va maintenant patcher tout pour rendre l'entraînement plus rapide !
==((====))==  Unsloth 2026.1.4 : Patch rapide Gemma3. Transformers : 4.57.6.
   \\   /|    NVIDIA GeForce RTX 3060. Nombre de GPU = 1. Mémoire max : 12.0 GB. Plateforme : Windows.
O^O/ \_/ \    Torch : 2.10.0+cu130. CUDA : 8.6. CUDA Toolkit : 13.0. Triton : 3.6.0
\        /    Bfloat16 = TRUE. FA [Xformers = 0.0.34. FA2 = False]
 "-____-"     Licence gratuite : http://github.com/unslothai/unsloth
Unsloth : Téléchargement rapide activé - ignorez les barres de téléchargement colorées en rouge !
Unsloth : Gemma3 ne supporte pas SDPA - basculement vers fast eager.
Unsloth : Rendre `model.base_model.model.model` nécessitant des gradients
Unsloth : Tokenisation de ["text"] (num_proc=1) :   0%|                 | 0/210289 [00:00<?, ? exemples/s]�  Unsloth : Patchera votre ordinateur pour permettre un fine-tuning gratuit 2x plus rapide.
🦥 Unsloth : Patchera votre ordinateur pour permettre un fine-tuning gratuit 2x plus rapide.

Et entraînement :

Méthode n°2 - Docker :

Docker pourrait être le moyen le plus simple pour les utilisateurs Windows de démarrer avec Unsloth car aucune configuration ni problème de dépendances n'est nécessaire. unsloth/unsloth est la seule image Docker d'Unsloth. Pour Blackwell et les GPU série 50, utilisez cette même image - pas besoin d'image séparée.

Pour les instructions d'installation, veuillez suivre notre guide Docker, sinon voici un guide de démarrage rapide :

Installez Docker et NVIDIA Container Toolkit.

Installez Docker via Linux ou Desktop (autre). Ensuite installez NVIDIA Container Toolkit:

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

Exécutez le conteneur.

unsloth/unsloth est la seule image Docker d'Unsloth.

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

Accéder à Jupyter Lab

Aller à http://localhost:8888 et ouvrez Unsloth. Accédez aux unsloth-notebooks onglets pour voir les notebooks Unsloth.

Commencer l'entraînement avec Unsloth

Si vous êtes nouveau, suivez notre guide étape par étape Guide de fine-tuning, Guide RL ou enregistrez/ copiez simplement l'un de nos notebooks.

Problèmes Docker - GPU non détecté ?

Essayez d'utiliser WSL via Windows

Méthode n°3 - WSL :

Installer WSL

Ouvrez l'invite de commandes, le Terminal, et installez Ubuntu. Définissez le mot de passe si demandé.

wsl.exe --install Ubuntu-24.04
wsl.exe -d Ubuntu-24.04

Si vous n'avez PAS fait (1), donc si vous avez déjà installé WSL, entrez dans WSL en tapant wsl et APPUYEZ SUR ENTRÉE dans l'invite de commandes

wsl

Installer Python

sudo apt update
sudo apt install python3 python3-full python3-pip python3-venv -y

Installer PyTorch

pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130

Si vous rencontrez des problèmes d'autorisation, utilisez –break-system-packages donc pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 –break-system-packages

Installer Unsloth et Jupyter Notebook

pip install unsloth jupyter

Si vous rencontrez des problèmes d'autorisation, utilisez –-break-system-packages donc pip install unsloth jupyter –-break-system-packages

Lancer Unsloth via Jupyter Notebook

jupyter notebook

Ensuite ouvrez nos notebooks dans Notebooks Unslothet chargez-les ! Vous pouvez aussi aller sur les notebooks Colab et télécharger > télécharger .ipynb et les charger.

Si vous utilisez GRPO ou prévoyez d'utiliser vLLM, actuellement vLLM ne prend pas en charge Windows directement mais uniquement via WSL ou Linux.

Dépannage / Avancé

Pour instructions d'installation avancées ou si vous voyez des erreurs étranges pendant les installations :

Installer torch et triton. Allez sur https://pytorch.org pour l'installer. Par exemple pip install torch torchvision torchaudio triton
Vérifiez si CUDA est installé correctement. Essayez nvcc. Si cela échoue, vous devez installer cudatoolkit ou les pilotes CUDA.
Si vous utilisez un GPU Intel, vous devrez suivre notre guide Intel Windows
Installer xformers manuellement. Vous pouvez essayer d'installer vllm et voir si vllm réussit. Vérifiez si xformers a réussi avec python -m xformers.info Allez sur https://github.com/facebookresearch/xformers. Une autre option est d'installer flash-attn pour les GPU Ampere.
Vérifiez bien que vos versions de Python, CUDA, CUDNN, torch, triton , et xformers sont compatibles entre elles. La Matrice de compatibilité PyTorch peut être utile.
Enfin, installez bitsandbytes et vérifiez-le avec python -m bitsandbytes

Précédentuv, pip install & venv SuivantAMD

Mis à jour il y a 27 minutes

Ce contenu vous a-t-il été utile ?

hashtagMéthode n°1 - Windows via Conda :

hashtagMéthode n°2 - Docker :

hashtagMéthode n°3 - WSL :

hashtagDépannage / Avancé

Méthode n°1 - Windows via Conda :

Méthode n°2 - Docker :

Méthode n°3 - WSL :

Dépannage / Avancé