Installiere Unsloth per pip und uv

Installiere Unsloth Studio manuell oder Unsloth Core mit pip, uv oder in einer virtuellen Umgebung.

Unsloth Desktop, Unsloth Studiound Unsloth Core werden unterschiedlich installiert. Diese Seite behandelt die manuelle Studio-Installation und das codebasierte Core-Paket.

Unsloth Desktop

Für die native Desktop-App verwenden Sie den OS-Download statt der folgenden Befehle:

• Download für macOS

• Download für Windows

• Download für Linux

Unsloth Studio

macOS, Linux, WSL:

curl -fsSL https://unsloth.ai/install.sh | sh

Verwenden Sie zum Aktualisieren denselben Befehl.

Windows PowerShell:

irm https://unsloth.ai/install.ps1 | iex

Verwenden Sie zum Aktualisieren denselben Befehl.

Starten:

unsloth studio -H 0.0.0.0 -p 8888

Ausführliche Installationsanweisungen und Anforderungen für Unsloth Studio siehe unseren Leitfaden.

Aus dem Haupt-Repository installieren

Entwicklerinstallationen für macOS, Linux, WSL:

git clone https://github.com/unslothai/unsloth
cd unsloth
./install.sh --local
unsloth studio -H 0.0.0.0 -p 8888

Entwicklerinstallationen für Windows PowerShell:

winget install -e --id Python.Python.3.13 --source winget
winget install --id=astral-sh.uv  -e --source winget
winget install --id Git.Git -e --source winget
git clone https://github.com/unslothai/unsloth
cd unsloth
Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass
.\install.ps1 --local
unsloth studio -H 0.0.0.0 -p 8888

Nightly-Installation

Nightly - macOS, Linux, WSL:

git clone https://github.com/unslothai/unsloth
cd unsloth
git checkout nightly
./install.sh --local

Dann jedes Mal zum Starten:

unsloth studio -H 0.0.0.0 -p 8888

Nightly - Windows:

In Windows PowerShell ausführen:

winget install -e --id Python.Python.3.13 --source winget
winget install --id=astral-sh.uv  -e --source winget
winget install --id Git.Git -e --source winget
git clone https://github.com/unslothai/unsloth
cd unsloth
git checkout nightly
Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass
.\install.ps1 --local

Dann jedes Mal zum Starten:

unsloth studio -H 0.0.0.0 -p 8888

Deinstallieren

Die empfohlene Methode, Unsloth Studio vollständig zu entfernen, ist das Deinstallationsskript für Ihr Betriebssystem. Es stoppt alle laufenden Server, entfernt die App, den CLI-Befehl, Launcher-Daten, Verknüpfungen und plattformspezifische Einträge (macOS .app Bundle + Launch Services; Windows-Startmenü + Registrierung + PATH):

macOS, WSL, Linux:

curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.sh | sh

Windows (PowerShell):

irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex 

Manuelle Deinstallation

Wenn Sie lieber nur bestimmte Teile entfernen möchten:

1. Nur App entfernen (behält Verlauf, Chats, Checkpoints und Exporte bei):

• macOS, WSL, Linux: rm -rf ~/.unsloth/studio/unsloth_studio

• Windows (PowerShell): Remove-Item -Recurse -Force "$HOME\\.unsloth\\studio\\unsloth_studio"

2. Unsloth vollständig entfernen (lässt andere Unsloth-Tools unverändert):

• macOS, WSL, Linux: rm -rf ~/.unsloth/studio

• Windows (PowerShell): Remove-Item -Recurse -Force "$HOME\\.unsloth\\studio"

3. Alles Unsloth-bezogene entfernen:

• macOS, WSL, Linux: rm -rf ~/.unsloth

• Windows (PowerShell): Remove-Item -Recurse -Force "$HOME\\.unsloth"

Hinweis: Schritte 1-5 berühren Ihre heruntergeladenen HF-Modelldateien nicht. Siehe unten „Gelöschte zwischengespeicherte HF-Modelldateien“, wenn Sie diesen Speicherplatz freigeben möchten.

4. Verknüpfungen und Symlinks entfernen:

macOS:

rm -rf ~/Applications/Unsloth\ Studio.app ~/Desktop/Unsloth\ Studio

Linux:

rm -f ~/.local/share/applications/unsloth-studio.desktop ~/Desktop/unsloth-studio.desktop

WSL / Windows (PowerShell):

Remove-Item -Force "$HOME\\Desktop\\Unsloth Studio.lnk"
Remove-Item -Force "$env:APPDATA\\Microsoft\\Windows\\Start Menu\\Programs\\Unsloth Studio.lnk"

5. Den CLI-Befehl entfernen:

• macOS, Linux, WSL: rm -f ~/.local/bin/unsloth

• Windows (PowerShell): Der Installer hat das Verzeichnis der venv Scripts zu Ihrem Benutzer-PATH hinzugefügt. Um es zu entfernen, öffnen Sie Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen, suchen Sie Path unter Benutzervariablen und entfernen Sie den Eintrag, der auf .unsloth\studio\...\Scripts.

Hinweis: Schritte 1-5 berühren Ihre heruntergeladenen HF-Modelldateien nicht. Siehe unten „Gelöschte zwischengespeicherte HF-Modelldateien“, wenn Sie diesen Speicherplatz freigeben möchten.

Zwischengespeicherte HF-Modelldateien löschen

Sie können alte Modelldateien entweder über das Papierkorbsymbol in der Modellsuche löschen oder indem Sie den entsprechenden zwischengespeicherten Modellordner aus dem Standard-Cacheverzeichnis von Hugging Face entfernen. Standardmäßig verwendet Hugging Face ~/.cache/huggingface/hub/ unter macOS/Linux/WSL und C:\Users\<username>\.cache\huggingface\hub\ unter Windows.

• macOS, Linux, WSL: ~/.cache/huggingface/hub/

• Windows: %USERPROFILE%\.cache\huggingface\hub\

Wenn HF_HUB_CACHE oder HF_HOME festgelegt ist, verwenden Sie stattdessen diesen Speicherort. Unter Linux und WSL, XDG_CACHE_HOME kann ebenfalls das Standard-Cache-Root ändern.

Unsloth Core

Installieren Sie uv mit folgendem Befehl:

macOS, WSL, Linux:

curl -LsSf https://astral.sh/uv/install.sh | sh

Windows (PowerShell):

irm https://astral.sh/uv/install.ps1 | iex

Installieren Sie Unsloth Core mit uv pip (empfohlen) für die neueste Pip-Version:

uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
uv pip install unsloth --torch-backend=auto

Oder einfach pip:

pip install unsloth

Um zu installieren vLLM und Unsloth zusammen, führen Sie Folgendes aus:

uv pip install unsloth vllm --torch-backend=auto

Um die neueste Haupt-Branch von Unsloth zu installieren, führen Sie Folgendes aus:

uv pip install unsloth --torch-backend=auto
pip uninstall unsloth unsloth_zoo -y && pip install --no-deps git+https://github.com/unslothai/unsloth_zoo.git && pip install --no-deps git+https://github.com/unslothai/unsloth.git

Für venv- und virtuelle-Umgebungen-Installationen um Ihre Installation zu isolieren, damit Systempakete nicht beschädigt werden und um irreparable Schäden an Ihrem System zu reduzieren, verwenden Sie venv:

apt install python3.10-venv python3.11-venv python3.12-venv python3.13-venv -y
python -m venv unsloth_env
source unsloth_env/bin/activate
pip install --upgrade pip && pip install uv
uv pip install unsloth --torch-backend=auto

Wenn Sie Unsloth in Jupyter, Colab oder anderen Notebooks installieren, stellen Sie sicher, dass Sie dem Befehl !. voranstellen. Das ist bei der Verwendung eines Terminals nicht erforderlich

Python 3.13 wird jetzt unterstützt!

Unsloth Core deinstallieren

Wenn Sie mit Unsloth weiterhin Abhängigkeitsprobleme haben, konnten viele Nutzer diese durch erzwungenes Deinstallieren und erneutes Installieren von Unsloth lösen:

pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth
pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth_zoo

Erweiterte Pip-Installation

Verwenden Sie NICHT dies, wenn Sie Conda.

Pip ist etwas komplexer, da es Abhängigkeitsprobleme gibt. Der Pip-Befehl ist unterschiedlich für torch 2.2,2.3,2.4,2.5 und CUDA-Versionen.

Für andere Torch-Versionen unterstützen wir torch211, torch212, torch220, torch230, torch240 und für CUDA-Versionen unterstützen wir cu118 und cu121 und cu124. Für Ampere-Geräte (A100, H100, RTX3090) und höher verwenden Sie cu118-ampere oder cu121-ampere oder cu124-ampere.

Zum Beispiel, wenn Sie torch 2.4 und CUDA 12.1, verwenden Sie:

pip install --upgrade pip
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"

Ein weiteres Beispiel: Wenn Sie torch 2.5 und CUDA 12.4, verwenden Sie:

pip install --upgrade pip
pip install "unsloth[cu124-torch250] @ git+https://github.com/unslothai/unsloth.git"

Und weitere Beispiele:

pip install "unsloth[cu121-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-torch240] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch230] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-ampere-torch230] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch250] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu124-ampere-torch250] @ git+https://github.com/unslothai/unsloth.git"

Oder führen Sie das Folgende in einem Terminal aus, um den optimalen Pip-Installationsbefehl zu erhalten:

wget -qO- https://raw.githubusercontent.com/unslothai/unsloth/main/unsloth/_auto_install.py | python -

Oder führen Sie das Folgende manuell in einer Python-REPL aus:

# Lizenziert unter der Apache-Lizenz, Version 2.0 (die "Lizenz")
try: import torch
except: raise ImportError('Install torch via `pip install torch`)
from packaging.version import Version as V
import re
v = V(re.match(r"[0-9\.]{3,}", torch.__version__).group(0))
cuda = str(torch.version.cuda)
is_ampere = torch.cuda.get_device_capability()[0] >= 8
USE_ABI = torch._C._GLIBCXX_USE_CXX11_ABI
if cuda not in ("11.8", "12.1", "12.4", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} not supported!")
if   v <= V('2.1.0'): raise RuntimeError(f"Torch = {v} too old!")
elif v <= V('2.1.1'): x = 'cu{}{}-torch211'
elif v <= V('2.1.2'): x = 'cu{}{}-torch212'
elif v  < V('2.3.0'): x = 'cu{}{}-torch220'
elif v  < V('2.4.0'): x = 'cu{}{}-torch230'
elif v  < V('2.5.0'): x = 'cu{}{}-torch240'
elif v  < V('2.5.1'): x = 'cu{}{}-torch250'
elif v <= V('2.5.1'): x = 'cu{}{}-torch251'
elif v  < V('2.7.0'): x = 'cu{}{}-torch260'
elif v  < V('2.7.9'): x = 'cu{}{}-torch270'
elif v  < V('2.8.0'): x = 'cu{}{}-torch271'
elif v  < V('2.8.9'): x = 'cu{}{}-torch280'
elif v  < V('2.9.1'): x = 'cu{}{}-torch290'
elif v  < V('2.9.2'): x = 'cu{}{}-torch291'
else: raise RuntimeError(f"Torch = {v} too new!")
if v > V('2.6.9') and cuda not in ("11.8", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} not supported!")
x = x.format(cuda.replace(".", ""), "-ampere" if False else "") # is_ampere is broken due to flash-attn
print(f'pip install --upgrade pip && pip install --no-deps git+https://github.com/unslothai/unsloth-zoo.git && pip install "unsloth[{x}] @ git+https://github.com/unslothai/unsloth.git" --no-build-isolation')