Installer Unsloth via pip et uv

Pour installer Unsloth localement via Pip, suivez les étapes ci-dessous :

Méthode d'installation recommandée

Installez avec pip (recommandé) pour la dernière version pip :

pip install unsloth

Pour utiliser uv:

pip install --upgrade pip && pip install uv
uv pip install unsloth

Pour installer vLLM et Unsloth ensemble, faites :

uv pip install unsloth vllm

Pour installer la dernière branche main d'Unsloth, faites :

pip install unsloth
pip uninstall unsloth unsloth_zoo -y && pip install --no-deps git+https://github.com/unslothai/unsloth_zoo.git && pip install --no-deps git+https://github.com/unslothai/unsloth.git

Pour les installations venv et environnements virtuels pour isoler votre installation afin de ne pas casser les paquets système, et pour réduire les dommages irréparables à votre système, utilisez venv :

apt install python3.10-venv python3.11-venv python3.12-venv python3.13-venv -y
python -m venv unsloth_env
source unsloth_env/bin/activate
pip install --upgrade pip && pip install uv
uv pip install unsloth

Si vous installez Unsloth dans Jupyter, Colab ou d'autres notebooks, assurez-vous de préfixer la commande par !. Ceci n'est pas nécessaire lorsque vous utilisez un terminal

Python 3.13 est désormais pris en charge !

Désinstaller ou Réinstaller

Si vous rencontrez encore des problèmes de dépendances avec Unsloth, de nombreux utilisateurs les ont résolus en forçant la désinstallation et la réinstallation d'Unsloth :

pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth
pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth_zoo

---

Installation Pip avancée

Faire NE PAS utiliser ceci si vous avez Conda.

Pip est un peu plus complexe car il y a des problèmes de dépendances. La commande pip est différente pour torch 2.2,2.3,2.4,2.5 et les versions de CUDA.

Pour d'autres versions de torch, nous prenons en charge torch211, torch212, torch220, torch230, torch240 et pour les versions de CUDA, nous prenons en charge cu118 et cu121 et cu124. Pour les appareils Ampere (A100, H100, RTX3090) et supérieurs, utilisez cu118-ampere ou cu121-ampere ou cu124-ampere.

Par exemple, si vous avez torch 2.4 et CUDA 12.1, utilisez :

pip install --upgrade pip
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"

Un autre exemple, si vous avez torch 2.5 et CUDA 12.4, utilisez :

pip install --upgrade pip
pip install "unsloth[cu124-torch250] @ git+https://github.com/unslothai/unsloth.git"

Et d'autres exemples :

pip install "unsloth[cu121-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-torch240] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch230] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-ampere-torch230] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch250] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu124-ampere-torch250] @ git+https://github.com/unslothai/unsloth.git"

Ou, exécutez ce qui suit dans un terminal pour obtenir la optimale commande d'installation pip :

wget -qO- https://raw.githubusercontent.com/unslothai/unsloth/main/unsloth/_auto_install.py | python -

Ou, exécutez ce qui suit manuellement dans un REPL Python :

# Licencié sous la licence Apache, version 2.0 (la "Licence")
try: import torch
except: raise ImportError('Install torch via `pip install torch`')
from packaging.version import Version as V
import re
v = V(re.match(r"[0-9\.]{3,}", torch.__version__).group(0))
cuda = str(torch.version.cuda)
is_ampere = torch.cuda.get_device_capability()[0] >= 8
USE_ABI = torch._C._GLIBCXX_USE_CXX11_ABI
if cuda not in ("11.8", "12.1", "12.4", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} not supported!")
if   v <= V('2.1.0'): raise RuntimeError(f"Torch = {v} too old!")
elif v <= V('2.1.1'): x = 'cu{}{}-torch211'
elif v <= V('2.1.2'): x = 'cu{}{}-torch212'
elif v  < V('2.3.0'): x = 'cu{}{}-torch220'
elif v  < V('2.4.0'): x = 'cu{}{}-torch230'
elif v  < V('2.5.0'): x = 'cu{}{}-torch240'
elif v  < V('2.5.1'): x = 'cu{}{}-torch250'
elif v <= V('2.5.1'): x = 'cu{}{}-torch251'
elif v  < V('2.7.0'): x = 'cu{}{}-torch260'
elif v  < V('2.7.9'): x = 'cu{}{}-torch270'
elif v  < V('2.8.0'): x = 'cu{}{}-torch271'
elif v  < V('2.8.9'): x = 'cu{}{}-torch280'
elif v  < V('2.9.1'): x = 'cu{}{}-torch290'
elif v  < V('2.9.2'): x = 'cu{}{}-torch291'
else: raise RuntimeError(f"Torch = {v} too new!")
if v > V('2.6.9') and cuda not in ("11.8", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} not supported!")
x = x.format(cuda.replace(".", ""), "-ampere" if False else "") # is_ampere est cassé à cause de flash-attn
print(f'pip install --upgrade pip && pip install --no-deps git+https://github.com/unslothai/unsloth-zoo.git && pip install "unsloth[{x}] @ git+https://github.com/unslothai/unsloth.git" --no-build-isolation')