> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/loslegen/install/windows-installation.md).

# Wie man LLMs auf Windows mit Unsloth fine-tuned (Schritt-für-Schritt-Anleitung)

Sie können Modelle jetzt direkt auf Ihrem lokalen Windows-Gerät ohne WSL feinabstimmen, indem Sie [Unsloth](https://github.com/unslothai/unsloth). Für diese Anleitung gibt es 3 Hauptmethoden, die Sie verwenden können ([Conda](#method-1-windows-via-conda), [Docker](#method-2-docker) und [WSL](#method-3-wsl)).\
Wenn Sie PyTorch bereits unter Windows installiert haben, `pip install unsloth` sollte es funktionieren. Andernfalls folgen Sie unseren Anleitungen unten:

<a href="/pages/44f4bf2eea97ad3270d9e11ab9d33f2b9479ae22#method-1-windows-via-conda" class="button secondary">Conda-Anleitung</a><a href="/pages/44f4bf2eea97ad3270d9e11ab9d33f2b9479ae22#method-2-docker" class="button secondary">Docker-Anleitung</a><a href="/pages/44f4bf2eea97ad3270d9e11ab9d33f2b9479ae22#method-3-wsl" class="button secondary">WSL-Anleitung</a>

### Unsloth Studio

Wir haben eine neue Web-UI gestartet, genannt [Unsloth Studio](/docs/de/neu/studio/install.md) die auf Windows direkt funktioniert:

```bash
irm https://unsloth.ai/install.ps1 | iex
```

Verwenden Sie denselben Befehl zum Aktualisieren.

Dann jedes Mal zum Starten:

```bash
unsloth studio -H 0.0.0.0 -p 8888
```

Für detaillierte Installationsanweisungen und Anforderungen für Unsloth Studio, [sehen Sie sich unseren Leitfaden an](/docs/de/neu/studio/install.md).

Nachfolgend finden Sie Installationsanweisungen für das ursprüngliche **Unsloth Core**:

### Methode #1 - Windows über Conda:

{% stepper %}
{% step %}
**Miniconda (oder Anaconda) installieren**

Anaconda herunterladen [hier](https://www.anaconda.com/download). Wir empfehlen [Miniconda](https://www.anaconda.com/docs/getting-started/miniconda/install#quickstart-install-instructions). Um sie zu verwenden, öffnen Sie zuerst Powershell - suchen Sie im Startmenü nach "Windows Powershell":

<figure><img src="/files/a745f6ad2575db5ca3e44bad04ec9d28c89adaad" alt="" width="375"><figcaption></figcaption></figure>

Dann öffnet sich Powershell:

<figure><img src="/files/b44160fbe4b1b89196a017b1019ed05e6114c2ff" alt="" width="375"><figcaption></figcaption></figure>

Dann kopieren Sie Folgendes per Einfügen: CTRL+C, und fügen Sie es in Powershell mit CTRL+V ein:

{% code overflow="wrap" %}

```ps
Invoke-WebRequest -Uri "https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe" -OutFile ".\miniconda.exe"
Start-Process -FilePath ".\miniconda.exe" -ArgumentList "/S" -Wait
del .\miniconda.exe
```

{% endcode %}

Akzeptieren Sie die Warnung und drücken Sie "Trotzdem einfügen" und warten Sie.

<figure><img src="/files/2cd0b7d22600c1bcc2df83cb8402e03d9fc34620" alt="" width="375"><figcaption></figcaption></figure>

Es lädt das Installationsprogramm wie unten herunter:

<figure><img src="/files/cf6da815e01daee1d2b7be5ccba40a7ba91de766" alt="" width="375"><figcaption></figcaption></figure>

Nach der Installation öffnen Sie open **Anaconda Powershell Prompt** um Miniconda zu verwenden, über Start -> danach suchen:

<figure><img src="/files/2f24791abe15b903d58cb88484d4383118e7cf1a" alt="" width="375"><figcaption></figcaption></figure>

Dann sehen Sie:

<figure><img src="/files/3dade67d8c28d02672d7d12fcf56d9313803321f" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**Conda-Umgebung erstellen**

```bash
conda create --name unsloth_env python==3.12 -y
conda activate unsloth_env
```

**Sie werden sehen:**

<figure><img src="/files/2701aae6a22c945709be9d6a29178601f227e13a" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**Prüfen Sie `nvidia-smi` um zu bestätigen, dass Sie eine GPU haben, und suchen Sie nach der CUDA-Version**

Nachdem Sie `nvidia-smi` in Powershell eingegeben haben, sollten Sie unten etwas Ähnliches sehen. Wenn Sie nicht `nvidia-smi` haben oder das Folgende nicht angezeigt wird, müssen Sie [NVIDIA-Treiber](https://www.nvidia.com/en-us/drivers/).

<figure><img src="/files/858d7311befd5f80844644615ba53daaa965bb33" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**PyTorch installieren**

Beim Ausführen von `nvidia-smi` neu installieren. Oben rechts sehen Sie: "CUDA Version: 13.0". Installieren Sie PyTorch in PowerShell über. Ändern Sie `130` an Ihre CUDA-Version an - stellen Sie sicher, dass die [Version vorhanden ist](https://pytorch.org/) und zu Ihrer CUDA-Treiberversion passt.

{% code overflow="wrap" %}

```bash
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu130
```

{% endcode %}

Sie werden sehen:

<figure><img src="/files/9ce7fd7df2e895bcd8463c03eaf740aa670370ca" alt="" width="563"><figcaption></figcaption></figure>

Versuchen Sie, dies in Python auszuführen über `python` nachdem PyTorch installiert ist:

{% code overflow="wrap" %}

```python
import torch
print(torch.cuda.is_available())
A = torch.ones((10, 10), device = "cuda")
B = torch.ones((10, 10), device = "cuda")
A @ B
```

{% endcode %}

Sie sollten eine Matrix aus 10ern sehen. Verifizieren Sie außerdem True für das erste.

<figure><img src="/files/47722be880996fe4d02769e14d87ad69ffbb69ea" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}

{% step %}
**Unsloth installieren (nur wenn PyTorch funktioniert!)**

{% hint style="danger" %}
**Bestätigen Sie, dass PyTorch einwandfrei funktioniert und läuft - wenn nicht, ist PyTorch beschädigt und das bedeutet leider, dass auf Ihrem Windows-Rechner möglicherweise eine Neuinstallation der CUDA-Treiber erforderlich ist.**
{% endhint %}

In Powershell (nachdem Sie Python über `exit()` verlassen haben, führen Sie Folgendes aus und warten Sie:

```bash
pip install unsloth
```

{% endstep %}

{% step %}
**Überprüfen Sie, dass Unsloth funktioniert**

Verwenden Sie jetzt beliebige Skripte in [Unsloth-Notebooks](/docs/de/loslegen/unsloth-notebooks.md) (als .py-Datei speichern), oder verwenden Sie das untenstehende einfache Skript:

{% code expandable="true" %}

```python
from unsloth import FastLanguageModel, FastModel
import torch
from trl import SFTTrainer, SFTConfig
from datasets import load_dataset
max_seq_length = 512
url = "https://huggingface.co/datasets/laion/OIG/resolve/main/unified_chip2.jsonl"
dataset = load_dataset("json", data_files = {"train" : url}, split = "train")

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "unsloth/gemma-3-270m-it",
    max_seq_length = max_seq_length, # Wählen Sie beliebig für langen Kontext!
    load_in_4bit = True,  # 4-Bit-Quantisierung. False = 16-Bit-LoRA.
    load_in_8bit = False, # 8-Bit-Quantisierung
    load_in_16bit = False, # 16-Bit-LoRA
    full_finetuning = False, # Für vollständiges Fine-Tuning verwenden.
    trust_remote_code = False, # Aktivieren, um neue Modelle zu unterstützen
    # token = "hf_...", # einen verwenden, wenn Sie gesperrte Modelle nutzen
)

# Modell-Patching durchführen und schnelle LoRA-Gewichte hinzufügen
model = FastLanguageModel.get_peft_model(
    model,
    r = 16,
    target_modules = ["q_proj", "k_proj", "v_proj", "o_proj",
                      "gate_proj", "up_proj", "down_proj",],
    lora_alpha = 16,
    lora_dropout = 0, # Unterstützt beliebige Werte, aber = 0 ist optimiert
    bias = "none",    # Unterstützt beliebige Werte, aber = "none" ist optimiert
    # [NEU] "unsloth" verwendet 30 % weniger VRAM und passt 2x größere Batch-Größen!
    use_gradient_checkpointing = "unsloth", # True oder "unsloth" für sehr langen Kontext
    random_state = 3407,
    max_seq_length = max_seq_length,
    use_rslora = False,  # Wir unterstützen rank-stabilisiertes LoRA
    loftq_config = None, # Und LoftQ
)

trainer = SFTTrainer(
    model = model,
    train_dataset = dataset,
    tokenizer = tokenizer,
    args = SFTConfig(
        max_seq_length = max_seq_length,
        per_device_train_batch_size = 2,
        gradient_accumulation_steps = 4,
        warmup_steps = 10,
        max_steps = 60,
        logging_steps = 1,
        output_dir = "outputs",
        optim = "adamw_8bit",
        seed = 3407,
        dataset_num_proc = 1,
    ),
)
trainer.train()
```

{% endcode %}

Sie sollten Folgendes sehen:

```bash
🦥 Unsloth: Wird Ihren Computer patchen, um 2x schnelleres kostenloses Finetuning zu ermöglichen.
🦥 Unsloth Zoo wird jetzt alles patchen, um das Training schneller zu machen!
==((====))==  Unsloth 2026.1.4: Schnelles Gemma3-Patching. Transformers: 4.57.6.
   \\   /|    NVIDIA GeForce RTX 3060. Anzahl GPUs = 1. Maximaler Speicher: 12.0 GB. Plattform: Windows.
O^O/ \_/ \    Torch: 2.10.0+cu130. CUDA: 8.6. CUDA Toolkit: 13.0. Triton: 3.6.0
\        /    Bfloat16 = TRUE. FA [Xformers = 0.0.34. FA2 = False]
 "-____-"     Kostenlose Lizenz: http://github.com/unslothai/unsloth
Unsloth: Schnelles Herunterladen ist aktiviert - ignorieren Sie die Download-Balken, die rot gefärbt sind!
Unsloth: Gemma3 unterstützt SDPA nicht - Wechsel zu schnellem eager.
Unsloth: Macht `model.base_model.model.model` gradientenpflichtig
Unsloth: Tokenisiert ["text"] (num_proc=1):   0%|                 | 0/210289 [00:00<?, ? examples/s]�  Unsloth: Wird Ihren Computer patchen, um 2x schnelleres kostenloses Finetuning zu ermöglichen.
🦥 Unsloth: Wird Ihren Computer patchen, um 2x schnelleres kostenloses Finetuning zu ermöglichen.
```

Und Training:

<figure><img src="/files/d3ad3f01ee6ce5a558dc238af909bbfac2ce5e72" alt="" width="375"><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}

### Methode #2 - Docker:

Docker könnte für Windows-Nutzer der einfachste Weg sein, mit Unsloth zu starten, da keine Einrichtung oder Abhängigkeitsprobleme nötig sind. [**`unsloth/unsloth`**](https://hub.docker.com/r/unsloth/unsloth) ist Unsloths einziges Docker-Image. Für [Blackwell](/docs/de/blog/fine-tuning-llms-with-blackwell-rtx-50-series-and-unsloth.md) und GPUs der 50er-Serie verwenden Sie dasselbe Image - kein separates Image erforderlich.

Für Installationsanweisungen folgen Sie bitte unserer [Docker-Anleitung](/docs/de/blog/how-to-fine-tune-llms-with-unsloth-and-docker.md), andernfalls hier ist eine Schnellstartanleitung:

{% stepper %}
{% step %}
**Installieren Sie Docker und das NVIDIA Container Toolkit.**

Installieren Sie Docker über [Linux](https://docs.docker.com/engine/install/) oder [Desktop](https://docs.docker.com/desktop/) (sonstiges). Dann installieren Sie [NVIDIA Container Toolkit](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html#installation):

```bash
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}
```

{% endstep %}

{% step %}
**Starten Sie den Container.**

[**`unsloth/unsloth`**](https://hub.docker.com/r/unsloth/unsloth) ist Unsloths einziges Docker-Image.

```bash
docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth
```

{% endstep %}

{% step %}
**Greifen Sie auf Jupyter Lab zu**

Gehe zu [http://localhost:8888](http://localhost:8888/) und öffnen Sie Unsloth. Greifen Sie auf die `unsloth-notebooks` -Tabs zu, um Unsloth-Notebooks zu sehen.
{% endstep %}

{% step %}
**Beginnen Sie mit dem Training mit Unsloth**

Wenn Sie neu sind, folgen Sie unserer Schritt-für-Schritt [Fine-Tuning-Anleitung](/docs/de/loslegen/fine-tuning-llms-guide.md), [RL-Anleitung](/docs/de/loslegen/reinforcement-learning-rl-guide.md) oder speichern/kopieren Sie einfach eines unserer vorgefertigten [Notebooks](/docs/de/loslegen/unsloth-notebooks.md).
{% endstep %}

{% step %}
**Docker-Probleme - GPU nicht erkannt?**

Versuchen Sie WSL über [#method-2-wsl](#method-2-wsl "mention")
{% endstep %}
{% endstepper %}

### Methode #3 - WSL:

{% stepper %}
{% step %}
**WSL installieren**

Öffnen Sie die Eingabeaufforderung oder das Terminal und installieren Sie Ubuntu. Legen Sie das Passwort fest, wenn Sie dazu aufgefordert werden.

```bash
wsl.exe --install Ubuntu-24.04
wsl.exe -d Ubuntu-24.04
```

{% endstep %}

{% step %} <mark style="color:$primary;background-color:orange;">**Wenn Sie (1) NICHT ausgeführt haben, also WSL bereits installiert haben**</mark>**, betreten Sie WSL, indem Sie Folgendes eingeben `wsl` und ENTER in der Eingabeaufforderung**

```bash
wsl
```

{% endstep %}

{% step %}
**Python installieren**

{% code overflow="wrap" %}

```bash
sudo apt update
sudo apt install python3 python3-full python3-pip python3-venv -y
```

{% endcode %}
{% endstep %}

{% step %}
**PyTorch installieren**

{% code overflow="wrap" %}

```bash
pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130
```

{% endcode %}

Wenn Sie auf Berechtigungsprobleme stoßen, verwenden Sie `–break-system-packages` also `pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 –break-system-packages`
{% endstep %}

{% step %}
**Unsloth und Jupyter Notebook installieren**

{% code overflow="wrap" %}

```bash
pip install unsloth jupyter
```

{% endcode %}

Wenn Sie auf Berechtigungsprobleme stoßen, verwenden Sie `–-break-system-packages` also `pip install unsloth jupyter –-break-system-packages`
{% endstep %}

{% step %}
**Unsloth über Jupyter Notebook starten**

{% code overflow="wrap" %}

```bash
jupyter notebook
```

{% endcode %}

Öffnen Sie dann unsere Notebooks innerhalb von [Unsloth-Notebooks](/docs/de/loslegen/unsloth-notebooks.md)und laden Sie sie! Sie können auch zu Colab-Notebooks gehen und download > download .ipynb verwenden und sie laden.

![](/files/d6d1d766900b310a319953f98c00dbc8dc264f39)
{% endstep %}
{% endstepper %}

{% hint style="warning" %}
Wenn Sie GRPO verwenden oder vLLM verwenden möchten, unterstützt vLLM derzeit Windows nicht direkt, sondern nur über WSL oder Linux.
{% endhint %}

### **Fehlerbehebung /** Erweiterte

Für **erweiterte Installationsanweisungen** oder wenn Sie bei Installationen seltsame Fehler sehen:

1. Installieren Sie `torch` und `triton`. Gehen Sie zu <https://pytorch.org>, um es zu installieren. Zum Beispiel `pip install torch torchvision torchaudio triton`
2. Bestätigen Sie, ob CUDA korrekt installiert ist. Versuchen Sie `nvcc`. Wenn das fehlschlägt, müssen Sie `cudatoolkit` oder die CUDA-Treiber installieren.
3. Wenn Sie eine Intel-GPU verwenden, müssen Sie unserer [Intel-Windows-Anleitung](/docs/de/loslegen/install/intel.md#windows-only-runtime-configurations)
4. Installieren Sie `xformers` manuell. Sie können versuchen, `vllm` zu installieren und zu sehen, ob `vllm` es erfolgreich ist. Prüfen Sie, ob `xformers` erfolgreich war mit `python -m xformers.info` Gehen Sie zu <https://github.com/facebookresearch/xformers>. Eine weitere Option ist die Installation von `flash-attn` für Ampere-GPUs.
5. Überprüfen Sie doppelt, ob Ihre Versionen von Python, CUDA, CUDNN, `torch`, `triton`, und `xformers` miteinander kompatibel sind. Die [PyTorch-Kompatibilitätsmatrix](https://github.com/pytorch/pytorch/blob/main/RELEASE.md#release-compatibility-matrix) kann nützlich sein.
6. Installieren Sie schließlich `bitsandbytes` und prüfen Sie es mit `python -m bitsandbytes`
7. Wenn Unsloth Ihre GPU nicht erkennt oder verwendet und Sie unseren Docker-Container unter Windows verwenden, dann muss Ihre CUDA-Toolkit-Version `nvcc --version` mit der Version von CUDA übereinstimmen, die nvidia-smi auf der Host-GPU anzeigt. Die Unterstützung für Docker-Container unter Windows ist nicht automatisch. [Sie müssen der Docker-Anleitung folgen](https://docs.docker.com/desktop/features/gpu/).

### Deinstallation

Der empfohlene Weg, Unsloth Studio vollständig zu entfernen, ist das Deinstallationsskript für Ihr Betriebssystem. Es stoppt alle laufenden Server, entfernt die App, den CLI-Befehl, Launcher-Daten, Verknüpfungen und plattformspezifische Einträge (macOS `.app` Bundle + Launch Services; Windows-Startmenü + Registrierung + PATH):

```ps1
irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex 
```

#### Manuelle Deinstallation

Wenn Sie lieber nur bestimmte Teile entfernen möchten:

**1. Nur die App entfernen** (behalten Sie Verlauf, Chats, Checkpoints und Exporte unverändert):

* `Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"`

**2. Unsloth vollständig entfernen** (behalten Sie andere Unsloth-Tools unverändert):

* `Remove-Item -Recurse -Force "$HOME\.unsloth\studio"`

**3. Alles Unsloth-bezogene entfernen:**

* `Remove-Item -Recurse -Force "$HOME\.unsloth"`

{% hint style="warning" %}
Hinweis: Schritt 3 löscht alles in Verlauf, Chats, Modell-Checkpoints und Exporten. Dies kann nicht rückgängig gemacht werden.
{% endhint %}

**4. Verknüpfungen und symbolische Links entfernen:**

```shellscript
Remove-Item -Force "$HOME\Desktop\Unsloth Studio.lnk"
Remove-Item -Force "$env:APPDATA\Microsoft\Windows\Start Menu\Programs\Unsloth Studio.lnk"
```

**5. Den CLI-Befehl entfernen:**

* **Windows (PowerShell):** Der Installer hat das Verzeichnis der venv `Scripts` Verzeichnis zu Ihrem Benutzer-PATH hinzugefügt. Um es zu entfernen, öffnen Sie Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen, suchen Sie `Path` unter Benutzervariablen und entfernen Sie den Eintrag, der auf `.unsloth\studio\...\Scripts`.

{% hint style="info" %}
Hinweis: Die Schritte 1-5 berühren Ihre heruntergeladenen HF-Modelldateien nicht. Siehe unten Gelöschte zwischengespeicherte HF-Modelldateien, wenn Sie diesen Speicherplatz freigeben möchten.
{% endhint %}

### **Zwischengespeicherte HF-Modelldateien löschen**

Du kannst alte Modelldateien entweder über das Papierkorb-Symbol in der Modellsuche löschen oder indem du den entsprechenden zwischengespeicherten Modellordner aus dem standardmäßigen Hugging-Face-Cache-Verzeichnis entfernst. Standardmäßig verwendet Hugging Face `~/.cache/huggingface/hub/` unter macOS/Linux/WSL und `C:\Users\<username>\.cache\huggingface\hub\` unter Windows.

* **Windows:** `%USERPROFILE%\.cache\huggingface\hub\`

Wenn `HF_HUB_CACHE` oder `HF_HOME` gesetzt ist, verwende stattdessen diesen Speicherort. Unter Linux und WSL kann `XDG_CACHE_HOME` auch den Standard-Cache-Stamm ändern.


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/loslegen/install/windows-installation.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.