Installer Unsloth via pip et uv

Pour installer Unsloth localement via Pip, suivez les étapes ci-dessous :

Unsloth peut être utilisé de deux façons : via Unsloth Studio, l'interface web, ou via Unsloth Core, la version basée sur le code.

Unsloth Studio

MacOS, Linux, WSL :

curl -fsSL https://unsloth.ai/install.sh | sh

Utilisez la même commande pour mettre à jour.

Windows PowerShell :

irm https://unsloth.ai/install.ps1 | iex

Utilisez la même commande pour mettre à jour.

Lancer Unsloth Studio :

unsloth studio -H 0.0.0.0 -p 8888

Pour des instructions d'installation et des exigences détaillées pour Unsloth Studio, consultez notre guide.

Désinstaller Unsloth Studio

Vous pouvez désinstaller Unsloth Studio en supprimant son dossier d'installation, généralement situé sous $HOME/.unsloth/studio sur Mac/Linux/WSL et %USERPROFILE%\.unsloth\studio sur Windows. Ou exécutez :

• MacOS, WSL, Linux : rm -rf ~/.unsloth/studio

• Windows (PowerShell) : Remove-Item -Recurse -Force "$HOME\.unsloth\studio"

• Facultatif : supprimez $HOME\.unsloth sur Windows ou ~/.unsloth sur MacOS/Linux/WSL si vous souhaitez supprimer tous les fichiers Unsloth

Remarque : l'utilisation des commandes rm -rf va tout supprimer, y compris votre historique, le cache, les discussions, etc.

Suppression des fichiers de modèle

Vous pouvez supprimer d'anciens fichiers de modèle soit via l'icône de corbeille dans la recherche de modèles, soit en supprimant le dossier de modèle mis en cache correspondant dans le répertoire de cache Hugging Face par défaut. Par défaut, Hugging Face utilise ~/.cache/huggingface/hub/ sur macOS/Linux/WSL et C:\Users\<username>\.cache\huggingface\hub\ sur Windows.

• MacOS, Linux, WSL : ~/.cache/huggingface/hub/

• Windows : %USERPROFILE%\.cache\huggingface\hub\

Si HF_HUB_CACHE ou HF_HOME est défini, utilisez plutôt cet emplacement. Sur Linux et WSL, XDG_CACHE_HOME peut également modifier la racine du cache par défaut.

Dépannage

Si vous rencontrez encore des problèmes de dépendances avec Unsloth, de nombreux utilisateurs les ont résolus en désinstallant puis réinstallant Unsloth de force :

pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth
pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth_zoo

Unsloth Core

Installez avec uv pip (recommandé) pour la dernière version de pip :

curl -LsSf https://astral.sh/uv/install.sh | sh
uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
uv pip install unsloth --torch-backend=auto

Ou simplement pip :

pip install unsloth

Pour installer vLLM et Unsloth ensemble, faites :

uv pip install unsloth vllm --torch-backend=auto

Pour installer la dernière branche principale d'Unsloth, faites :

uv pip install unsloth --torch-backend=auto
pip uninstall unsloth unsloth_zoo -y && pip install --no-deps git+https://github.com/unslothai/unsloth_zoo.git && pip install --no-deps git+https://github.com/unslothai/unsloth.git

Pour les installations avec venv et des environnements virtuels afin d'isoler votre installation, d'éviter de casser les paquets système et de réduire les dommages irréparables à votre système, utilisez venv :

apt install python3.10-venv python3.11-venv python3.12-venv python3.13-venv -y
python -m venv unsloth_env
source unsloth_env/bin/activate
pip install --upgrade pip && pip install uv
uv pip install unsloth --torch-backend=auto

Si vous installez Unsloth dans Jupyter, Colab ou d'autres notebooks, veillez à faire précéder la commande de !. Ce n'est pas nécessaire lors de l'utilisation d'un terminal

Python 3.13 est maintenant pris en charge !

Désinstaller Unsloth Core

Si vous rencontrez encore des problèmes de dépendances avec Unsloth, de nombreux utilisateurs les ont résolus en désinstallant puis réinstallant Unsloth de force :

pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth
pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth_zoo

Installation avancée avec Pip

Faites PAS utilisez ceci si vous avez Conda.

Pip est un peu plus complexe en raison de problèmes de dépendances. La commande pip est différente pour torch 2.2,2.3,2.4,2.5 et les versions de CUDA.

Pour les autres versions de torch, nous prenons en charge torch211, torch212, torch220, torch230, torch240 et pour les versions de CUDA, nous prenons en charge cu118 et cu121 et cu124. Pour les appareils Ampere (A100, H100, RTX3090) et supérieurs, utilisez cu118-ampere ou cu121-ampere ou cu124-ampere.

Par exemple, si vous avez torch 2.4 et CUDA 12.1, utilisez :

pip install --upgrade pip
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"

Autre exemple, si vous avez torch 2.5 et CUDA 12.4, utilisez :

pip install --upgrade pip
pip install "unsloth[cu124-torch250] @ git+https://github.com/unslothai/unsloth.git"

Et d'autres exemples :

pip install "unsloth[cu121-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-torch240] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch230] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-ampere-torch230] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch250] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu124-ampere-torch250] @ git+https://github.com/unslothai/unsloth.git"

Ou exécutez ce qui suit dans un terminal pour obtenir la optimale commande d'installation pip :

wget -qO- https://raw.githubusercontent.com/unslothai/unsloth/main/unsloth/_auto_install.py | python -

Ou exécutez ce qui suit manuellement dans un REPL Python :

# Licensed under the Apache License, Version 2.0 (the "License")
try: import torch
except: raise ImportError('Installez torch via `pip install torch`')
from packaging.version import Version as V
import re
v = V(re.match(r"[0-9\.]{3,}", torch.__version__).group(0))
cuda = str(torch.version.cuda)
is_ampere = torch.cuda.get_device_capability()[0] >= 8
USE_ABI = torch._C._GLIBCXX_USE_CXX11_ABI
if cuda not in ("11.8", "12.1", "12.4", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} not supported!")
if   v <= V('2.1.0'): raise RuntimeError(f"Torch = {v} trop ancien !")
elif v <= V('2.1.1'): x = 'cu{}{}-torch211'
elif v <= V('2.1.2'): x = 'cu{}{}-torch212'
elif v  < V('2.3.0'): x = 'cu{}{}-torch220'
elif v  < V('2.4.0'): x = 'cu{}{}-torch230'
elif v  < V('2.5.0'): x = 'cu{}{}-torch240'
elif v  < V('2.5.1'): x = 'cu{}{}-torch250'
elif v <= V('2.5.1'): x = 'cu{}{}-torch251'
elif v  < V('2.7.0'): x = 'cu{}{}-torch260'
elif v  < V('2.7.9'): x = 'cu{}{}-torch270'
elif v  < V('2.8.0'): x = 'cu{}{}-torch271'
elif v  < V('2.8.9'): x = 'cu{}{}-torch280'
elif v  < V('2.9.1'): x = 'cu{}{}-torch290'
elif v  < V('2.9.2'): x = 'cu{}{}-torch291'
else: raise RuntimeError(f"Torch = {v} trop récent !")
if v > V('2.6.9') and cuda not in ("11.8", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} not supported!")
x = x.format(cuda.replace(".", ""), "-ampere" if False else "") # is_ampere est cassé à cause de flash-attn
print(f'pip install --upgrade pip && pip install --no-deps git+https://github.com/unslothai/unsloth-zoo.git && pip install "unsloth[{x}] @ git+https://github.com/unslothai/unsloth.git" --no-build-isolation')