Unsloth auf Windows installieren

Installieren Sie Miniconda (oder Anaconda)

Anaconda herunterladen hier. Unser Vorschlag ist die Verwendung von Miniconda. Um es zu verwenden, öffnen Sie zuerst Powershell - suchen Sie im Startmenü nach "Windows Powershell":

Dann öffnet sich Powershell:

Dann kopieren Sie das Folgende: STRG+C und fügen es in Powershell mit STRG+V ein:

Invoke-WebRequest -Uri "https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe" -OutFile ".\miniconda.exe"
Start-Process -FilePath ".\miniconda.exe" -ArgumentList "/S" -Wait
del .\miniconda.exe

Akzeptieren Sie die Warnung und drücken Sie „Trotzdem einfügen“ und warten Sie.

Der Installer wird wie unten heruntergeladen:

Nach der Installation öffnen Sie Anaconda Powershell Prompt um Miniconda über Start -> Suche zu verwenden:

Dann sehen Sie:

Conda-Umgebung erstellen

conda create --name unsloth_env python==3.12 -y
conda activate unsloth_env

Sie werden sehen:

Prüfen nvidia-smi um zu bestätigen, dass Sie eine GPU haben, und um die CUDA-Version zu überprüfen

Nach Eingabe von nvidia-smi in Powershell sollten Sie etwas wie unten sehen. Wenn Sie nicht nvidia-smi oder das Folgende nicht erscheint, müssen Sie NVIDIA-Treiber.

neu installieren

PyTorch installieren nvidia-smi Beim Ausführen 130 sehen Sie oben rechts: "CUDA Version: 13.0". Installieren Sie PyTorch in PowerShell. Ändern Sie auf Ihre CUDA-Version - stellen Sie sicher, dass die Version existiert

und mit Ihrer CUDA-Treiberversion übereinstimmt.

Sie werden sehen:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu130 Versuchen Sie dies in Python auszuführen via python

nachdem PyTorch installiert ist:
import torch
print(torch.cuda.is_available())
A = torch.ones((10, 10), device = "cuda")
B = torch.ones((10, 10), device = "cuda")

A @ B

Sie sollten eine Matrix mit 10ern sehen. Überprüfen Sie außerdem, dass für das Erste True ausgegeben wird.

Bestätigen Sie, dass PyTorch einwandfrei funktioniert und ausgeführt wird – wenn nicht, ist PyTorch defekt und das bedeutet leider, dass Ihr Windows-Rechner möglicherweise eine Neuinstallation der CUDA-Treiber benötigt. In Powershell (nach dem Verlassen von Python via exit()

pip install unsloth

, führen Sie aus und warten Sie:

Überprüfen Sie, ob Unsloth funktioniert Unsloth-Notebooks Verwenden Sie nun ein beliebiges Skript in

trainer.train()

Sie sollten sehen:
🦥 Unsloth: Wird Ihren Computer patchen, um kostenloses Fine-Tuning 2x schneller zu ermöglichen.
🦥 Unsloth Zoo wird nun alles patchen, um das Training zu beschleunigen!
   ==((====))==  Unsloth 2026.1.4: Schnelles Gemma3-Patching. Transformers: 4.57.6.
\\   /|    NVIDIA GeForce RTX 3060. Anzahl GPUs = 1. Max. Speicher: 12,0 GB. Plattform: Windows.
O^O/ \_/ \    Torch: 2.10.0+cu130. CUDA: 8.6. CUDA Toolkit: 13.0. Triton: 3.6.0
 \        /    Bfloat16 = TRUE. FA [Xformers = 0.0.34. FA2 = False]
"-____-"     Kostenlose Lizenz: http://github.com/unslothai/unsloth
Unsloth: Schnellladen ist aktiviert – ignorieren Sie Downloadleisten, die rot gefärbt sind!
Unsloth: Gemma3 unterstützt SDPA nicht – wechsle zu schnellem Eager-Modus.
Unsloth: Setze `model.base_model.model.model` auf benötigte Gradienten
Sie sollten sehen:

Unsloth: Tokenisiere ["text"] (num_proc=1): 0%| | 0/210289 [00:00<?, ? examples/s]� Unsloth: Wird Ihren Computer patchen, um kostenloses Fine-Tuning 2x schneller zu ermöglichen.

, ansonsten hier eine Schnellstart-Anleitung:

Installieren Sie Docker und das NVIDIA Container Toolkit. Installieren Sie Docker über Linux oder Desktop (andere). Installieren Sie dann:

NVIDIA Container Toolkit
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
  sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \

libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

Docker könnte für Windows-Nutzer der einfachste Weg sein, mit Unsloth zu beginnen, da keine Einrichtung oder Abhängigkeitsprobleme anfallen. Starten Sie den Container.

ist Unsloths einziges Docker-Image.
  docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  Docker könnte für Windows-Nutzer der einfachste Weg sein, mit Unsloth zu beginnen, da keine Einrichtung oder Abhängigkeitsprobleme anfallen.

--gpus all \

Auf Jupyter Lab zugreifen Gehen Sie zu http://localhost:8888 und öffnen Sie Unsloth. Greifen Sie auf die unsloth-notebooks

Tabs zu, um die Unsloth-Notebooks zu sehen.

Beginnen Sie mit dem Training mit Unsloth Wenn Sie neu sind, folgen Sie unserem Schritt-für-Schritt-, Fine-Tuning-Guide RL-Guide oder speichern/kopieren Sie einfach eines unserer vorgefertigten.

Notebooks

Docker-Probleme - GPU nicht erkannt? Windows

Methode #3 - WSL:

Installieren Sie WSL

Öffnen Sie die Eingabeaufforderung oder das Terminal und installieren Sie Ubuntu. Legen Sie das Passwort fest, falls Sie dazu aufgefordert werden.
wsl.exe --install Ubuntu-24.04

wsl.exe -d Ubuntu-24.04$primary , betreten Sie WSL durch Eingabe von wsl

, betreten Sie WSL durch Eingabe von

und DRÜCKEN SIE ENTER in der Eingabeaufforderung

Python installieren
sudo apt update

neu installieren

sudo apt install python3 python3-full python3-pip python3-venv -y

pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 Wenn Sie Berechtigungsprobleme haben, verwenden Sie –break-system-packages so

pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 –break-system-packages

Installieren Sie Unsloth und Jupyter Notebook

pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 pip install unsloth jupyter –break-system-packages –-break-system-packages

pip install unsloth jupyter –-break-system-packages

Unsloth über Jupyter Notebook starten

jupyter notebook Unsloth-NotebooksÖffnen Sie dann unsere Notebooks innerhalb von