# Unsloth per pip und uv installieren

Unsloth kann auf zwei Arten verwendet werden: über [Unsloth Studio](#unsloth-studio), die Web-Oberfläche, oder über [Unsloth Core](#unsloth-core), die codebasierte Version. 

## **Unsloth Studio**

### **MacOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

Verwenden Sie denselben Befehl zum Aktualisieren oder verwenden Sie `unsloth studio update`.

### **Windows PowerShell:**

```bash
irm https://unsloth.ai/install.ps1 | iex
```

Verwenden Sie denselben Befehl zum Aktualisieren oder verwenden Sie `unsloth studio update`.

### Starten:

```bash
unsloth studio -H 0.0.0.0 -p 8888
```

Für detaillierte Installationsanweisungen und Anforderungen für Unsloth Studio, [siehe unseren Leitfaden](https://unsloth.ai/docs/de/neu/studio/install).

### Deinstallieren

Um Unsloth Studio zu deinstallieren, befolgen Sie diese 4 Schritte:

#### **1. Die Anwendung entfernen**

* MacOS, WSL, Linux: `rm -rf ~/.unsloth/studio/unsloth ~/.unsloth/studio/studio`
* Windows (PowerShell): `Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth", "$HOME\.unsloth\studio\studio"` 

Dadurch wird die Anwendung entfernt, Ihre Modell-Checkpoints, Exporte, der Verlauf, der Cache und die Chats bleiben jedoch erhalten.

#### **2. Verknüpfungen und Symlinks entfernen**

**macOS:**

```bash
rm -rf ~/Applications/Unsloth\ Studio.app ~/Desktop/Unsloth\ Studio
```

**Linux:**

```bash
rm -f ~/.local/share/applications/unsloth-studio.desktop ~/Desktop/unsloth-studio.desktop
```

**WSL / Windows (PowerShell):**

```bash
Remove-Item -Force "$HOME\Desktop\Unsloth Studio.lnk"
Remove-Item -Force "$env:APPDATA\Microsoft\Windows\Start Menu\Programs\Unsloth Studio.lnk"
```

#### **3. Den CLI-Befehl entfernen**

**MacOS, Linux, WSL:**

```bash
rm -f ~/.local/bin/unsloth
```

**Windows (PowerShell):** Das Installationsprogramm hat das `Scripts` -Verzeichnis zum Benutzer-PATH hinzugefügt. Um es zu entfernen, öffnen Sie Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen, suchen Sie `Path` unter Benutzervariablen und entfernen Sie den Eintrag, der auf `.unsloth\studio\...\Scripts`.

#### **4. Alles entfernen (optional)**

Um auch Verlauf, Cache, Chats, Modell-Checkpoints und Modell-Exporte zu löschen, löschen Sie den gesamten Unsloth-Ordner:

* MacOS, WSL, Linux: `rm -rf ~/.unsloth`
* Windows (PowerShell): `Remove-Item -Recurse -Force "$HOME\.unsloth"` 

Beachten Sie, dass heruntergeladene HF-Modelldateien separat im Hugging-Face-Cache gespeichert werden — keiner der obigen Schritte entfernt sie. Siehe **Modelldateien löschen** unten, wenn Sie diesen Speicherplatz freigeben möchten.

{% hint style="warning" %}
Hinweis: Die Verwendung der `rm -rf` -Befehle wird **alles löschen**, einschließlich Ihres Verlaufs, Caches, Chats usw.
{% endhint %}

### **Gespeicherte HF-Modelldateien löschen**

Sie können alte Modelldateien entweder über das Papierkorb-Symbol in der Modellsuche löschen oder den entsprechenden zwischengespeicherten Modellordner aus dem Standardverzeichnis des Hugging-Face-Caches entfernen. Standardmäßig verwendet Hugging Face `~/.cache/huggingface/hub/` unter macOS/Linux/WSL und `C:\Users\<username>\.cache\huggingface\hub\` unter Windows.

* **MacOS, Linux, WSL:** `~/.cache/huggingface/hub/`
* **Windows:** `%USERPROFILE%\.cache\huggingface\hub\`

Wenn `HF_HUB_CACHE` oder `HF_HOME` gesetzt ist, verwenden Sie stattdessen diesen Speicherort. Unter Linux und WSL kann `XDG_CACHE_HOME` auch das Standard-Cache-Stammverzeichnis ändern.

## **Unsloth Core**

**Mit uv pip installieren (empfohlen) für die neueste pip-Version:**

```bash
curl -LsSf https://astral.sh/uv/install.sh | sh
uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
uv pip install unsloth --torch-backend=auto
```

Oder einfach mit pip:

```bash
pip install unsloth
```

Um **vLLM und Unsloth** zusammen zu installieren, führen Sie aus:

```bash
uv pip install unsloth vllm --torch-backend=auto
```

Um die **neueste Hauptzweig-Version** von Unsloth zu installieren, führen Sie aus:

{% code overflow="wrap" %}

```bash
uv pip install unsloth --torch-backend=auto
pip uninstall unsloth unsloth_zoo -y && pip install --no-deps git+https://github.com/unslothai/unsloth_zoo.git && pip install --no-deps git+https://github.com/unslothai/unsloth.git
```

{% endcode %}

Für **venv- und virtuelle-Umgebungen-Installationen** um Ihre Installation zu isolieren, damit Systempakete nicht beschädigt werden, und um irreparablen Schaden an Ihrem System zu reduzieren, verwenden Sie venv:

{% code overflow="wrap" %}

```bash
apt install python3.10-venv python3.11-venv python3.12-venv python3.13-venv -y
python -m venv unsloth_env
source unsloth_env/bin/activate
pip install --upgrade pip && pip install uv
uv pip install unsloth --torch-backend=auto
```

{% endcode %}

Wenn Sie Unsloth in Jupyter, Colab oder anderen Notebooks installieren, stellen Sie sicher, dass Sie dem Befehl `!`voranstellen. Das ist bei der Verwendung eines Terminals nicht notwendig

{% hint style="info" %}
Python 3.13 wird jetzt unterstützt!
{% endhint %}

### Unsloth Core deinstallieren

Wenn Sie weiterhin Abhängigkeitsprobleme mit Unsloth haben, haben viele Nutzer diese gelöst, indem sie Unsloth zwangsweise deinstalliert und neu installiert haben:

{% code overflow="wrap" %}

```bash
pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth
pip install --upgrade --force-reinstall --no-cache-dir --no-deps unsloth_zoo
```

{% endcode %}

### Erweiterte Pip-Installation

{% hint style="warning" %}
Verwenden Sie **NICHT** diese Option, wenn Sie [Conda](https://unsloth.ai/docs/de/los-gehts/install/conda-install).
{% endhint %}

verwenden. Pip ist etwas komplexer, da es Abhängigkeitsprobleme gibt. Der pip-Befehl ist unterschiedlich für `torch 2.2,2.3,2.4,2.5` und CUDA-Versionen.

Für andere torch-Versionen unterstützen wir `torch211`, `torch212`, `torch220`, `torch230`, `torch240` und für CUDA-Versionen unterstützen wir `cu118` und `cu121` und `cu124`. Für Ampere-Geräte (A100, H100, RTX3090) und höher verwenden Sie `cu118-ampere` oder `cu121-ampere` oder `cu124-ampere`.

Wenn Sie zum Beispiel `torch 2.4` und `CUDA 12.1`haben, verwenden Sie:

```bash
pip install --upgrade pip
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"
```

Ein weiteres Beispiel: Wenn Sie `torch 2.5` und `CUDA 12.4`haben, verwenden Sie:

```bash
pip install --upgrade pip
haben, verwenden Sie: pip install "unsloth[cu124-torch250] @ git+https://github.com/unslothai/unsloth.git"
```

Und weitere Beispiele:

```bash
pip install "unsloth[cu121-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-ampere-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-torch240] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu118-torch240] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch230] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu121-ampere-torch230] @ git+https://github.com/unslothai/unsloth.git"

pip install "unsloth[cu121-torch250] @ git+https://github.com/unslothai/unsloth.git"
pip install "unsloth[cu124-ampere-torch250] @ git+https://github.com/unslothai/unsloth.git"
```

Oder führen Sie Folgendes in einem Terminal aus, um den **optimalen** pip-Installationsbefehl zu erhalten:

```bash
wget -qO- https://raw.githubusercontent.com/unslothai/unsloth/main/unsloth/_auto_install.py | python -
```

Oder führen Sie Folgendes manuell in einer Python-REPL aus:

{% code overflow="wrap" %}

```python
# Lizenziert unter der Apache-Lizenz, Version 2.0 (die "Lizenz")
try: import torch
except: raise ImportError('Installieren Sie torch via `pip install torch`')
from packaging.version import Version as V
import re
v = V(re.match(r"[0-9\.]{3,}", torch.__version__).group(0))
cuda = str(torch.version.cuda)
is_ampere = torch.cuda.get_device_capability()[0] >= 8
USE_ABI = torch._C._GLIBCXX_USE_CXX11_ABI
if cuda not in ("11.8", "12.1", "12.4", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} wird nicht unterstützt!")
if   v <= V('2.1.0'): raise RuntimeError(f"Torch = {v} ist zu alt!")
elif v <= V('2.1.1'): x = 'cu{}{}-torch211'
elif v <= V('2.1.2'): x = 'cu{}{}-torch212'
elif v  < V('2.3.0'): x = 'cu{}{}-torch220'
elif v  < V('2.4.0'): x = 'cu{}{}-torch230'
elif v  < V('2.5.0'): x = 'cu{}{}-torch240'
elif v  < V('2.5.1'): x = 'cu{}{}-torch250'
elif v <= V('2.5.1'): x = 'cu{}{}-torch251'
elif v  < V('2.7.0'): x = 'cu{}{}-torch260'
elif v  < V('2.7.9'): x = 'cu{}{}-torch270'
elif v  < V('2.8.0'): x = 'cu{}{}-torch271'
elif v  < V('2.8.9'): x = 'cu{}{}-torch280'
elif v  < V('2.9.1'): x = 'cu{}{}-torch290'
elif v  < V('2.9.2'): x = 'cu{}{}-torch291'
else: raise RuntimeError(f"Torch = {v} ist zu neu!")
if v > V('2.6.9') and cuda not in ("11.8", "12.6", "12.8", "13.0"): raise RuntimeError(f"CUDA = {cuda} wird nicht unterstützt!")
x = x.format(cuda.replace(".", ""), "-ampere" if False else "") # is_ampere ist wegen flash-attn defekt
print(f'pip install --upgrade pip && pip install --no-deps git+https://github.com/unslothai/unsloth-zoo.git && pip install "unsloth[{x}] @ git+https://github.com/unslothai/unsloth.git" --no-build-isolation')
```

{% endcode %}