search
RedditDiscordGitHub

arrow-down-to-squareUnsloth Studio Installation

Lerne, wie du Unsloth Studio auf deinem lokalen Gerät installierst.

Unsloth Studio funktioniert unter Windows, Linux, WSL und macOS. Sie sollten auf jedem Gerät denselben Installationsprozess verwenden, obwohl die Systemanforderungen je nach Gerät variieren können.

windowsWindowsapplemacOSlinuxLinux & WSLdockerDocker

  • Training: Unterstützt auf NVIDIA-GPUs: RTX 3090, Blackwell 50‑Series, DGX Spark usw.

  • Mac: Wie CPU - Chat funktioniert vorerst nur. MLX Training kommt sehr bald.

  • CPU: Unsloth funktioniert weiterhin ohne GPU, aber nur für Chat Inference.

  • Demnächst: Unterstützung für Apple MLX, AMD, und Intel.

hashtag
Installationsanleitung

Denken Sie daran, dass die Installationsanweisungen auf allen Geräten gleich sind:

1

hashtag
Unsloth installieren

Installieren Sie zunächst Unsloth mit nur einem Befehl:

pip install unsloth

Oder installieren Sie den neuesten Code aus dem Quellcode via pip mit:

pip install git+https://github.com/unslothai/unsloth

Oder Sie können Studio direkt aus dem Quellcode herunterladen:

2

hashtag
Unsloth Studio einrichten

unsloth studio setup

Die Einrichtung installiert automatisch Node.js (über nvm), baut das Frontend, installiert alle Python-Abhängigkeiten und kompiliert llama.cpp mit CUDA-Unterstützung.

circle-exclamation

Die Erstinstallation kann 5–10 Minuten dauern. Das ist normal, da llama.cpp Binärdateien kompilieren muss. DBrechen Sie den Vorgang nicht ab. Wir arbeiten an vorkompilierten Binärdateien, sodass es beim nächsten Mal nicht so lange dauern wird.

circle-info

WSL-Nutzer: Sie werden nach Ihrem sudo Passwort gefragt, um Build-Abhängigkeiten zu installieren (cmake, git, libcurl4-openssl-dev).

3

hashtag
Starten

Starten Sie Unsloth Studio über:

unsloth studio -H 0.0.0.0 -p 8888

Öffnen Sie dann http://localhost:8888 in Ihrem Browser.

4

hashtag
Einrichtung/Onboarding

Beim ersten Start müssen Sie ein Passwort erstellen, um Ihr Konto zu sichern, und sich später erneut anmelden. Anschließend sehen Sie einen kurzen Onboarding-Assistenten, um ein Modell, einen Datensatz und grundlegende Einstellungen auszuwählen. Sie können ihn jederzeit überspringen.

5

hashtag
Beginnen Sie mit Training und Ausführung

Beginnen Sie sofort mit Fine‑Tuning und dem Erstellen von Datensätzen nach dem Start. Siehe unsere Schritt-für-Schritt-Anleitung, um mit Unsloth Studio zu beginnen:

boltGet Startedchevron-right

hashtag
Systemanforderungen

hashtag
windows Windows

Unsloth Studio läuft direkt unter Windows ohne WSL. Um Modelle zu trainieren, stellen Sie sicher, dass Ihr System diese Anforderungen erfüllt:

Anforderungen

  • Windows 10 oder Windows 11 (64‑Bit)

  • NVIDIA GPU mit installierten Treibern

  • App Installer (inklusive winget): hierarrow-up-right

  • Git: winget install --id Git.Git -e --source winget

  • Python: Version 3.11 bis, aber nicht einschließlich, 3.14

  • Arbeiten Sie innerhalb einer Python-Umgebung wie uv, venv, oder conda/mamba

hashtag
apple macOS

Unsloth Studio funktioniert auf Mac-Geräten für Chat für GGUF-Modelle. MLX-Training kommt bald!

  • macOS 12 Monterey oder neuer (Intel oder Apple Silicon)

  • Homebrew installieren: hierarrow-up-right

  • Git: brew install git

  • cmake: brew install cmake

  • openssl: brew install openssl

  • Python: Version 3.11 bis, aber nicht einschließlich, 3.14

  • Arbeiten Sie innerhalb einer Python-Umgebung wie uv, venv, oder conda/mamba

hashtag
linux Linux & WSL

  • Ubuntu 20.04+ oder eine ähnliche Distribution (64‑Bit)

  • NVIDIA GPU mit installierten Treibern

  • CUDA-Toolkit (12.4+ empfohlen, 12.8+ für Blackwell)

  • Git: sudo apt install git

  • Python: Version 3.11 bis, aber nicht einschließlich, 3.14

  • Arbeiten Sie innerhalb einer Python-Umgebung wie uv, venv, oder conda/mamba

hashtag
docker Docker

circle-exclamation

Unser Docker-Image ist noch in Arbeit, wird später heute funktionieren:

  • Ziehen Sie unser neuestes Unsloth-Container-Image: docker pull unsloth/unsloth

  • Starten Sie den Container mit:

Für weitere Informationen, siehe hierarrow-up-right.

  • Greifen Sie auf Ihre Studio-Instanz zu unter http://localhost:8000 oder externe IP-Adresse http://external_ip_address:8000/

hashtag
microchip Nur CPU

Unsloth Studio unterstützt nur CPU-Geräte für Chat für GGUF-Modelle.

  • Wie die oben für Linux (außer NVIDIA-GPU-Treibern) und macOS genannten.

hashtag
google Google Colab

Wir haben ein kostenloses Google Colab-Notebookarrow-up-right erstellt, damit Sie alle Funktionen von Unsloth auf Colabs T4-GPUs erkunden können. Sie können die meisten Modelle bis zu 22B Parametern trainieren und ausführen und für größere Modelle auf eine größere GPU wechseln. Klicken Sie einfach auf „Run all“ und die Benutzeroberfläche sollte nach der Installation erscheinen.

circle-exclamation

Es dauert 40+ Minuten, bis llama.cpp auf einer T4-GPU kompiliert ist. Daher empfehlen wir die Verwendung einer größeren GPU für schnellere Geschwindigkeiten.

LogoGoogle Colabcolab.research.google.comchevron-right

Sobald die Installation abgeschlossen ist, scrollen Sie zu Unsloth Studio starten und klicken Sie Unsloth Studio öffnen in dem weißen Feld, das links angezeigt wird:

hashtag
Fehlerbehebung

Problem
Lösung

Python-Versionsfehler

sudo apt install python3.12 python3.12-venv Version 3.11 bis, aber nicht einschließlich, 3.14

nvidia-smi nicht gefunden

Installieren Sie NVIDIA-Treiber von https://www.nvidia.com/Download/index.aspx

nvcc nicht gefunden (CUDA)

sudo apt install nvidia-cuda-toolkit oder fügen Sie /usr/local/cuda/bin zum PATH hinzu

llama-server Build fehlgeschlagen

Nicht fatal, Studio funktioniert weiterhin, GGUF-Inference wird nicht verfügbar sein. Installieren Sie cmake und führen Sie die Einrichtung erneut aus, um es zu beheben.

cmake nicht gefunden

sudo apt install cmake

git nicht gefunden

sudo apt install git

Build fehlgeschlagen

Löschen ~/.unsloth/llama.cpp und führen Sie die Einrichtung erneut aus

VorherigeStudio ChatNächsteData Recipes

Zuletzt aktualisiert

War das hilfreich?