> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/loslegen/install/windows-installation.md).

# Wie man LLMs unter Windows mit Unsloth feinabstimmt (Schritt-für-Schritt-Anleitung)

Du kannst Modelle jetzt direkt auf deinem lokalen Windows-Gerät ohne WSL mit [Unsloth](https://github.com/unslothai/unsloth). Für diese Anleitung gibt es 3 Hauptmethoden, die du verwenden kannst ([Conda](#method-1-windows-via-conda), [Docker](#method-2-docker) und [WSL](#method-3-wsl)).\
Wenn PyTorch bereits unter Windows installiert ist, `pip install unsloth` sollte funktionieren. Andernfalls folge unseren Anleitungen unten:

<a href="/pages/44f4bf2eea97ad3270d9e11ab9d33f2b9479ae22#method-1-windows-via-conda" class="button secondary">Conda-Tutorial</a><a href="/pages/44f4bf2eea97ad3270d9e11ab9d33f2b9479ae22#method-2-docker" class="button secondary">Docker-Tutorial</a><a href="/pages/44f4bf2eea97ad3270d9e11ab9d33f2b9479ae22#method-3-wsl" class="button secondary">WSL-Tutorial</a>

### Unsloth Studio

Wir haben eine neue Web-UI namens gestartet [Unsloth Studio](/docs/de/neu/studio/install.md) die unter Windows sofort funktioniert:

```bash
irm https://unsloth.ai/install.ps1 | iex
```

Verwende denselben Befehl zum Aktualisieren.

Dann zum Starten jedes Mal:

```bash
unsloth studio -H 0.0.0.0 -p 8888
```

Für detaillierte Installationsanweisungen und Anforderungen für Unsloth Studio, [sieh dir unsere Anleitung an](/docs/de/neu/studio/install.md).

Unten stehen die Installationsanweisungen für das ursprüngliche **Unsloth Core**:

### Methode #1 - Windows über Conda:

{% stepper %}
{% step %}
**Miniconda (oder Anaconda) installieren**

Anaconda herunterladen [hier](https://www.anaconda.com/download). Unsere Empfehlung ist, [Miniconda](https://www.anaconda.com/docs/getting-started/miniconda/install#quickstart-install-instructions). Um es zu verwenden, öffne zuerst Powershell - suche im Startmenü nach "Windows Powershell":

<figure><img src="/files/a745f6ad2575db5ca3e44bad04ec9d28c89adaad" alt="" width="375"><figcaption></figcaption></figure>

Dann öffnet sich Powershell:

<figure><img src="/files/b44160fbe4b1b89196a017b1019ed05e6114c2ff" alt="" width="375"><figcaption></figcaption></figure>

Dann kopiere und füge Folgendes ein: CTRL+C und füge es in Powershell mit CTRL+V ein:

{% code overflow="wrap" %}

```ps
Invoke-WebRequest -Uri "https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe" -OutFile ".\miniconda.exe"
Start-Process -FilePath ".\miniconda.exe" -ArgumentList "/S" -Wait
del .\miniconda.exe
```

{% endcode %}

Akzeptiere die Warnung und klicke auf "Trotzdem einfügen" und warte.

<figure><img src="/files/2cd0b7d22600c1bcc2df83cb8402e03d9fc34620" alt="" width="375"><figcaption></figcaption></figure>

Es lädt den Installer wie unten herunter:

<figure><img src="/files/cf6da815e01daee1d2b7be5ccba40a7ba91de766" alt="" width="375"><figcaption></figcaption></figure>

Nach der Installation öffne öffne **Anaconda PowerShell Prompt** um Miniconda über Start -> Suche danach zu verwenden:

<figure><img src="/files/2f24791abe15b903d58cb88484d4383118e7cf1a" alt="" width="375"><figcaption></figcaption></figure>

Dann siehst du:

<figure><img src="/files/3dade67d8c28d02672d7d12fcf56d9313803321f" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**Conda-Umgebung erstellen**

```bash
conda create --name unsloth_env python==3.12 -y
conda activate unsloth_env
```

**Du wirst sehen:**

<figure><img src="/files/2701aae6a22c945709be9d6a29178601f227e13a" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**Prüfe `nvidia-smi` um zu bestätigen, dass du eine GPU hast, und achte auf die CUDA-Version**

Nach der Eingabe von `nvidia-smi` in Powershell solltest du etwas wie unten sehen. Falls du kein `nvidia-smi` oder das Folgende nicht erscheint, musst du [NVIDIA-Treiber](https://www.nvidia.com/en-us/drivers/).

<figure><img src="/files/858d7311befd5f80844644615ba53daaa965bb33" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**PyTorch installieren**

Beim Ausführen von `nvidia-smi` siehst du oben rechts: "CUDA Version: 13.0". Installiere PyTorch in PowerShell über. Ändere `130` auf deine CUDA-Version - stelle sicher, dass die [Version existiert](https://pytorch.org/) und mit deiner CUDA-Treiberversion übereinstimmt.

{% code overflow="wrap" %}

```bash
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu130
```

{% endcode %}

Du wirst sehen:

<figure><img src="/files/9ce7fd7df2e895bcd8463c03eaf740aa670370ca" alt="" width="563"><figcaption></figcaption></figure>

Versuche, dies in Python über `python` nach der Installation von PyTorch auszuführen:

{% code overflow="wrap" %}

```python
import torch
print(torch.cuda.is_available())
A = torch.ones((10, 10), device = "cuda")
B = torch.ones((10, 10), device = "cuda")
A @ B
```

{% endcode %}

Du solltest eine Matrix aus 10ern sehen. Prüfe außerdem, dass der erste Wert True ist.

<figure><img src="/files/47722be880996fe4d02769e14d87ad69ffbb69ea" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**Unsloth installieren (nur wenn PyTorch funktioniert!)**

{% hint style="danger" %}
**Bestätige, dass PyTorch einwandfrei funktioniert und läuft - wenn nicht, ist PyTorch defekt und das bedeutet leider, dass auf deinem Windows-Rechner möglicherweise eine Neuinstallation der CUDA-Treiber nötig ist.**
{% endhint %}

In Powershell (nachdem du Python über `exit()` , ausgeführt hast, dann warte:

```bash
pip install unsloth
```

{% endstep %}

{% step %}
**Prüfe, ob Unsloth funktioniert**

Verwende jetzt jedes Skript in [Unsloth-Notebooks](/docs/de/loslegen/unsloth-notebooks.md) (als .py-Datei speichern), oder verwende das folgende einfache Skript:

{% code expandable="true" %}

```python
from unsloth import FastLanguageModel, FastModel
import torch
from trl import SFTTrainer, SFTConfig
from datasets import load_dataset
max_seq_length = 512
url = "https://huggingface.co/datasets/laion/OIG/resolve/main/unified_chip2.jsonl"
dataset = load_dataset("json", data_files = {"train" : url}, split = "train")

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "unsloth/gemma-3-270m-it",
    max_seq_length = max_seq_length, # Wähle einen beliebigen Wert für langen Kontext!
    load_in_4bit = True,  # 4-Bit-Quantisierung. False = 16-Bit-LoRA.
    load_in_8bit = False, # 8-Bit-Quantisierung
    load_in_16bit = False, # 16-Bit-LoRA
    full_finetuning = False, # Für vollständiges Fine-Tuning verwenden.
    trust_remote_code = False, # Aktivieren, um neue Modelle zu unterstützen
    # token = "hf_...", # verwende einen, wenn du gesperrte Modelle nutzt
)

# Führe Model-Patching durch und füge schnelle LoRA-Gewichte hinzu
model = FastLanguageModel.get_peft_model(
    model,
    r = 16,
    target_modules = ["q_proj", "k_proj", "v_proj", "o_proj",
                      "gate_proj", "up_proj", "down_proj",],
    lora_alpha = 16,
    lora_dropout = 0, # Unterstützt beliebige Werte, aber = 0 ist optimiert
    bias = "none",    # Unterstützt beliebige Werte, aber = "none" ist optimiert
    # [NEU] "unsloth" verwendet 30 % weniger VRAM und passt für 2x größere Batchgrößen!
    use_gradient_checkpointing = "unsloth", # True oder "unsloth" für sehr langen Kontext
    random_state = 3407,
    max_seq_length = max_seq_length,
    use_rslora = False,  # Wir unterstützen rank-stabilisierte LoRA
    loftq_config = None, # Und LoftQ
)

trainer = SFTTrainer(
    model = model,
    train_dataset = dataset,
    tokenizer = tokenizer,
    args = SFTConfig(
        max_seq_length = max_seq_length,
        per_device_train_batch_size = 2,
        gradient_accumulation_steps = 4,
        warmup_steps = 10,
        max_steps = 60,
        logging_steps = 1,
        output_dir = "outputs",
        optim = "adamw_8bit",
        seed = 3407,
        dataset_num_proc = 1,
    ),
)
trainer.train()
```

{% endcode %}

Du solltest Folgendes sehen:

```bash
🦥 Unsloth: Wird deinen Computer patchen, um 2x schnelleres kostenloses Finetuning zu ermöglichen.
🦥 Unsloth Zoo wird jetzt alles patchen, um das Training schneller zu machen!
==((====))==  Unsloth 2026.1.4: Schnelles Gemma3-Patching. Transformers: 4.57.6.
   \\   /|    NVIDIA GeForce RTX 3060. Num GPUs = 1. Max memory: 12.0 GB. Platform: Windows.
O^O/ \_/ \    Torch: 2.10.0+cu130. CUDA: 8.6. CUDA Toolkit: 13.0. Triton: 3.6.0
\        /    Bfloat16 = TRUE. FA [Xformers = 0.0.34. FA2 = False]
 "-____-"     Kostenlose Lizenz: http://github.com/unslothai/unsloth
Unsloth: Schnelles Herunterladen ist aktiviert - ignoriere Downloadleisten, die rot gefärbt sind!
Unsloth: Gemma3 unterstützt SDPA nicht - wechsle zu schnellem Eager.
Unsloth: Mache `model.base_model.model.model` gradientenpflichtig
Unsloth: Tokenisiere ["text"] (num_proc=1):   0%|                 | 0/210289 [00:00<?, ? examples/s]�  Unsloth: Wird deinen Computer patchen, um 2x schnelleres kostenloses Finetuning zu ermöglichen.
🦥 Unsloth: Wird deinen Computer patchen, um 2x schnelleres kostenloses Finetuning zu ermöglichen.
```

Und das Training:

<figure><img src="/files/d3ad3f01ee6ce5a558dc238af909bbfac2ce5e72" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}

### Methode #2 - Docker:

Docker ist für Windows-Nutzer möglicherweise der einfachste Weg, mit Unsloth zu starten, da keine Einrichtung oder Abhängigkeitsprobleme erforderlich sind. [**`unsloth/unsloth`**](https://hub.docker.com/r/unsloth/unsloth) ist Unsloths einziges Docker-Image. Für [Blackwell](/docs/de/blog/fine-tuning-llms-with-blackwell-rtx-50-series-and-unsloth.md) und 50er-GPUs verwende dieses selbe Image - kein separates Image erforderlich.

Für Installationsanweisungen folge bitte unserer [Docker-Anleitung](/docs/de/blog/how-to-fine-tune-llms-with-unsloth-and-docker.md), andernfalls hier eine Schnellstart-Anleitung:

{% stepper %}
{% step %}
**Installiere Docker und das NVIDIA Container Toolkit.**

Installiere Docker über [Linux](https://docs.docker.com/engine/install/) oder [Desktop](https://docs.docker.com/desktop/) (andere). Dann installiere [NVIDIA Container Toolkit](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html#installation):

```bash
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}
```

{% endstep %}

{% step %}
**Starte den Container.**

[**`unsloth/unsloth`**](https://hub.docker.com/r/unsloth/unsloth) ist Unsloths einziges Docker-Image.

```bash
docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth
```

{% endstep %}

{% step %}
**Greife auf Jupyter Lab zu**

Gehe zu [http://localhost:8888](http://localhost:8888/) und öffne Unsloth. Greife auf die `unsloth-notebooks` Registerkarten zu, um Unsloth-Notebooks zu sehen.
{% endstep %}

{% step %}
**Starte das Training mit Unsloth**

Wenn du neu bist, folge unserer Schritt-für-Schritt- [Fine-Tuning-Anleitung](/docs/de/loslegen/fine-tuning-llms-guide.md), [RL-Anleitung](/docs/de/loslegen/reinforcement-learning-rl-guide.md) oder speichere/kopiere einfach eines unserer vorgefertigten [Notebooks](/docs/de/loslegen/unsloth-notebooks.md).
{% endstep %}

{% step %}
**Docker-Probleme - GPU nicht erkannt?**

Versuche WSL über [#method-2-wsl](#method-2-wsl "mention")
{% endstep %}
{% endstepper %}

### Methode #3 - WSL:

{% stepper %}
{% step %}
**WSL installieren**

Öffne die Eingabeaufforderung, das Terminal, und installiere Ubuntu. Lege das Passwort fest, wenn du dazu aufgefordert wirst.

```bash
wsl.exe --install Ubuntu-24.04
wsl.exe -d Ubuntu-24.04
```

{% endstep %}

{% step %} <mark style="color:$primary;background-color:orange;">**Wenn du (1) NICHT gemacht hast, also WSL bereits installiert hast**</mark>**, betrete WSL, indem du `wsl` und ENTER in die Eingabeaufforderung eingibst**

```bash
wsl
```

{% endstep %}

{% step %}
**Python installieren**

{% code overflow="wrap" %}

```bash
sudo apt update
sudo apt install python3 python3-full python3-pip python3-venv -y
```

{% endcode %}
{% endstep %}

{% step %}
**PyTorch installieren**

{% code overflow="wrap" %}

```bash
pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130
```

{% endcode %}

Wenn du auf Berechtigungsprobleme stößt, verwende `–break-system-packages` damit `pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 –break-system-packages`
{% endstep %}

{% step %}
**Unsloth und Jupyter Notebook installieren**

{% code overflow="wrap" %}

```bash
pip install unsloth jupyter
```

{% endcode %}

Wenn du auf Berechtigungsprobleme stößt, verwende `–-break-system-packages` damit `pip install unsloth jupyter –-break-system-packages`
{% endstep %}

{% step %}
**Starte Unsloth über Jupyter Notebook**

{% code overflow="wrap" %}

```bash
jupyter notebook
```

{% endcode %}

Öffne dann unsere Notebooks innerhalb von [Unsloth-Notebooks](/docs/de/loslegen/unsloth-notebooks.md)und lade sie! Du kannst auch zu Colab-Notebooks gehen und herunterladen > .ipynb herunterladen und sie laden.

![](/files/d6d1d766900b310a319953f98c00dbc8dc264f39)
{% endstep %}
{% endstepper %}

{% hint style="warning" %}
Wenn du GRPO verwendest oder vLLM verwenden möchtest, unterstützt vLLM derzeit Windows nicht direkt, sondern nur über WSL oder Linux.
{% endhint %}

### **Fehlerbehebung /** Erweitert

Für **erweiterte Installationsanweisungen** oder wenn du während der Installationen seltsame Fehler siehst:

1. Installiere `torch` und `triton`. Gehe zu <https://pytorch.org>, um es zu installieren. Zum Beispiel `pip install torch torchvision torchaudio triton`
2. Bestätige, ob CUDA korrekt installiert ist. Versuche `nvcc`. Wenn das fehlschlägt, musst du `cudatoolkit` oder die CUDA-Treiber installieren.
3. Wenn du eine Intel-GPU verwendest, musst du unserer [Intel-Windows-Anleitung](/docs/de/loslegen/install/intel.md#windows-only-runtime-configurations)
4. Installiere `xformers` manuell folgen. Du kannst versuchen, `vllm` zu installieren und zu prüfen, ob `vllm` das gelingt. Prüfe, ob `xformers` erfolgreich war mit `python -m xformers.info` Gehe zu <https://github.com/facebookresearch/xformers>. Eine andere Option ist die Installation von `flash-attn` für Ampere-GPUs.
5. Prüfe nochmals, dass deine Versionen von Python, CUDA, CUDNN, `torch`, `triton`, und `xformers` miteinander kompatibel sind. Die [PyTorch-Kompatibilitätsmatrix](https://github.com/pytorch/pytorch/blob/main/RELEASE.md#release-compatibility-matrix) kann hilfreich sein.
6. Installiere schließlich `bitsandbytes` und prüfe es mit `python -m bitsandbytes`
7. Wenn Unsloth deine GPU nicht erkennt oder verwendet und du unseren Docker-Container unter Windows nutzt, sollte deine CUDA-Toolkit-Version `nvcc --version` mit der von nvidia-smi auf dem Host angezeigten CUDA-Version übereinstimmen; GPU-Unterstützung für Docker-Container unter Windows ist nicht automatisch. [Du musst der Docker-Anleitung folgen](https://docs.docker.com/desktop/features/gpu/).

### Deinstallieren

Der empfohlene Weg, Unsloth Studio vollständig zu entfernen, ist das Deinstallationsskript für dein Betriebssystem. Es stoppt alle laufenden Server, entfernt die App, den CLI-Befehl, Launcher-Daten, Verknüpfungen und plattformspezifische Einträge (macOS `.app` Bundle + Launch Services; Windows-Startmenü + Registry + PATH):

```ps1
irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex 
```

#### Manuelle Deinstallation

Wenn du nur bestimmte Teile entfernen möchtest:

**1. Nur die App entfernen** (behält Verlauf, Chats, Checkpoints und Exporte bei):

* `Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"`

**2. Studio vollständig entfernen** (behält andere Unsloth-Tools bei):

* `Remove-Item -Recurse -Force "$HOME\.unsloth\studio"`

**3. Alles Unsloth-bezogene entfernen:**

* `Remove-Item -Recurse -Force "$HOME\.unsloth"`

{% hint style="warning" %}
Hinweis: Schritt 3 löscht alles in Verlauf, Chats, Modell-Checkpoints und Exporten. Dies kann nicht rückgängig gemacht werden.
{% endhint %}

**4. Verknüpfungen und Symlinks entfernen:**

```shellscript
Remove-Item -Force "$HOME\Desktop\Unsloth Studio.lnk"
Remove-Item -Force "$env:APPDATA\Microsoft\Windows\Start Menu\Programs\Unsloth Studio.lnk"
```

**5. Den CLI-Befehl entfernen:**

* **Windows (PowerShell):** Der Installer hat das `Scripts` Verzeichnis des venv zu deinem Benutzer-PATH hinzugefügt. Um es zu entfernen, öffne Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen, suche `Path` unter Benutzervariablen und entferne den Eintrag, der auf `.unsloth\studio\...\Scripts`.

{% hint style="info" %}
Hinweis: Die Schritte 1-5 berühren deine heruntergeladenen HF-Modell-Dateien nicht. Siehe unten "Zwischengespeicherte HF-Modell-Dateien löschen", wenn du diesen Speicherplatz zurückgewinnen möchtest.
{% endhint %}

### **Zwischengespeicherte HF-Modell-Dateien löschen**

Du kannst alte Modell-Dateien entweder über das Papierkorb-Symbol in der Modellsuche löschen oder den entsprechenden zwischengespeicherten Modellordner aus dem Standard-Hugging-Face-Cache-Verzeichnis entfernen. Standardmäßig verwendet Hugging Face `~/.cache/huggingface/hub/` unter macOS/Linux/WSL und `C:\Users\<username>\.cache\huggingface\hub\` unter Windows.

* **Windows:** `%USERPROFILE%\.cache\huggingface\hub\`

Wenn `HF_HUB_CACHE` oder `HF_HOME` gesetzt ist, verwende stattdessen diesen Speicherort. Unter Linux und WSL kann `XDG_CACHE_HOME` auch den Standard-Cache-Stamm ändern.


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/loslegen/install/windows-installation.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.