Unsloth Studio-Installation

Lerne, wie du Unsloth Studio auf deinem lokalen Gerät installierst.

Unsloth Studio funktioniert unter Windows, Linux, WSL und MacOS. Sie sollten auf jedem Gerät denselben Installationsprozess verwenden, auch wenn die Systemanforderungen je nach Gerät unterschiedlich sein können.

WindowsmacOSLinux & WSLDockerEntwicklerinstallation

• Mac: Wie CPU - Chat + Datenrezepte funktioniert vorerst. MLX Training funktioniert jetzt!

• CPU: Unsloth funktioniert weiterhin ohne GPU, aber für Chat + Datenrezepte.

• Training: Läuft auf NVIDIA: RTX 30, 40, 50, Blackwell, DGX Spark usw. + Intel + AMD GPUs

Schnellstart

macOS

Schritt 1: Unsloth einrichten

Starten Sie das Terminal auf dem Mac und installieren Sie dann Unsloth, indem Sie den folgenden Befehl eingeben.

curl -fsSL https://unsloth.ai/install.sh | sh

Unsloth beginnt wie unten gezeigt mit der Einrichtung der Umgebung und der Installation der erforderlichen Pakete. Geben Sie Y und drücken Sie Enter ein, wenn Sie gefragt werden, ob Sie Studio jetzt starten möchten. Dadurch wird Unsloth auf Ihrem lokalen 8888 Port gestartet.

Wenn Sie sich entschieden haben, Unsloth während der Installation nicht zu starten, können Sie die Unsloth-App jederzeit mit unsloth studio -p 8888 . Wenn Sie möchten, dass Ihre Unsloth-Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist, fügen Sie -H 0.0.0.0 zum unsloth studio Befehl hinzu.

Schritt 2: Unsloth starten

Öffnen Sie Ihren bevorzugten Browser und gehen Sie zur http://127.0.0.1:8888 URL. Wenn Sie Unsloth zum ersten Mal installieren, werden Sie aufgefordert, ein neues Passwort zu erstellen. Danach sollte sich die Unsloth-App nun wie unten gezeigt auf der Chat-Seite öffnen.

Sie können sofort mit dem Trainieren und Ausführen von Modellen beginnen. Eine ausführlichere Schritt-für-Schritt-Anleitung für den Einstieg finden Sie unten:

Get Started

Windows

Linux, WSL

Unsloth Studio aktualisieren

Um Unsloth Studio zu aktualisieren, verwenden Sie dieselben Befehle wie bei der Installation:

macOS, WSL, Linux:

curl -fsSL https://unsloth.ai/install.sh | sh

Windows (PowerShell):

irm https://unsloth.ai/install.ps1 | iex

Systemanforderungen

Windowss

Unsloth Studio funktioniert direkt unter Windows ohne WSL. Um Modelle zu trainieren, stellen Sie sicher, dass Ihr System diese Anforderungen erfüllt:

Anforderungen

• Windows 10 oder Windows 11 (64-Bit)

• NVIDIA-GPU mit installierten Treibern

• App-Installer (enthält winget): hier

• Git: winget install --id Git.Git -e --source winget

• Python: Version 3.11 bis einschließlich, aber nicht einschließlich 3.14

• Arbeiten Sie in einer Python-Umgebung wie uv, venv, oder conda/mamba

macOS

Unsloth Studio funktioniert auf Mac-Geräten für Chat und Training und alle Funktionen. Sie können MLX-Modelle mit Unsloth ausführen.

• macOS 12 Monterey oder neuer (Intel oder Apple Silicon)

• Arbeiten Sie in einer Python-Umgebung wie uv, venv, oder conda/mamba

Linux & WSL

• Ubuntu 20.04+ oder ähnliche Distribution (64-Bit)

• NVIDIA-GPU mit installierten Treibern

• CUDA-Toolkit (12.4+ empfohlen, 12.8+ für Blackwell)

• Git: sudo apt install git

• Python: Version 3.11 bis einschließlich, aber nicht einschließlich 3.14

• Arbeiten Sie in einer Python-Umgebung wie uv, venv, oder conda/mamba

Docker

Unser Docker-Image funktioniert jetzt für Studio! Wir arbeiten an Mac-Kompatibilität.

• Laden Sie unser neuestes Unsloth-Container-Image herunter: docker pull unsloth/unsloth

• Führen Sie den Container über aus:

docker run -d -e JUPYTER_PASSWORD="mypassword" \\
  -p 8888:8888 -p 8000:8000 -p 2222:22 \\
  -v $(pwd)/work:/workspace/work \\
  --gpus all \\
  unsloth/unsloth

Für weitere Informationen, siehe hier.

• Greifen Sie unter folgender Adresse auf Ihre Studio-Instanz zu http://localhost:8000 oder externe IP-Adresse http://external_ip_address:8000/

Nur CPU

Unsloth Studio unterstützt CPU-Geräte für Chat für GGUF-Modelle und Datenrezepte (Export (kommt sehr bald)

• Genau wie die oben für Linux genannten (außer NVIDIA-GPU-Treiber) und MacOS.

Entwickler- / Nightly-Installationen (Erweitert)

Installation des Haupt-Repos

macOS-, Linux-, WSL-Entwicklerinstallationen:

git clone https://github.com/unslothai/unsloth
cd unsloth
./install.sh --local
unsloth studio -p 8888

Um in einen isolierten Speicherort zu installieren (eigene virtuelle Umgebung, auth/, studio.db, Cache und llama.cpp-Build), setzen Sie UNSLOTH_STUDIO_HOME und übergeben Sie es beim Start erneut:

UNSLOTH_STUDIO_HOME="$PWD/.studio" ./install.sh --local
UNSLOTH_STUDIO_HOME="$PWD/.studio" unsloth studio -p 8888

Dann zum Aktualisieren:

cd unsloth && git pull
./install.sh --local
unsloth studio -p 8888

Windows PowerShell-Entwicklerinstallationen:

git clone https://github.com/unslothai/unsloth.git
cd unsloth
Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass
.\install.ps1 --local
unsloth studio -p 8888

Um in einen isolierten Speicherort zu installieren (eigene virtuelle Umgebung, auth/, studio.db, Cache und llama.cpp-Build), setzen Sie UNSLOTH_STUDIO_HOME und übergeben Sie es beim Start erneut:

$env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; .\install.ps1 --local
$env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; unsloth studio -p 8888

Dann zum Aktualisieren:

cd unsloth; git pull
.\install.ps1 --local
unsloth studio -p 8888

Remote-Zugriff: --secure (HTTPS-Tunnel) vs. offener Port

Standardmäßig unsloth studio bindet an 127.0.0.1 (nur dieser Rechner). Um von einem anderen Gerät darauf zuzugreifen, wählen Sie eine der folgenden Optionen:

• --secure (empfohlen): bereitstellen nur über einen kostenlosen Cloudflare-HTTPS-Link. Studio bleibt an localhost gebunden und der Tunnel stellt die öffentliche URL bereit; er schlägt sicher fehl (startet nicht), wenn der Tunnel nicht aufgebaut werden kann, sodass der offene Port niemals offengelegt wird.

unsloth studio --secure -p 8888

• -H 0.0.0.0: den offenen Port an alle Netzwerkschnittstellen binden, von überall im Netzwerk erreichbar. Verwenden Sie dies nur in einem vertrauenswürdigen Netzwerk.

unsloth studio -H 0.0.0.0 -p 8888

Serverseitige Werkzeuge (Websuche, Python- und Terminal-Codeausführung) laufen als Ihr Benutzer und sind standardmäßig aktiviert. Jeder, der den Server mit dem API-Schlüssel erreichen kann, kann auf diesem Rechner Code ausführen, daher halten Sie Ihren API-Schlüssel privat und übergeben Sie --disable-tools wenn Sie Studio öffentlich machen.

Erweiterte Startmethoden

Installer-Optionen können als Umgebungsvariablen übergeben werden. Auf macOS, Linux und WSL platzieren Sie die Variable nach der Pipe, damit die Shell sie an sh; unter Windows setzen Sie sie mit $env: vor dem Weiterleiten an iex.

PyTorch überspringen (nur GGUF-Modus):

curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_NO_TORCH=1 sh

$env:UNSLOTH_NO_TORCH=1; irm https://unsloth.ai/install.ps1 | iex

Python-Version festlegen:

curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_PYTHON=3.12 sh

$env:UNSLOTH_PYTHON='3.12'; irm https://unsloth.ai/install.ps1 | iex

An einen benutzerdefinierten Speicherort installieren mit UNSLOTH_STUDIO_HOME:

curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_STUDIO_HOME=/abs/path sh

$env:UNSLOTH_STUDIO_HOME='C:\path'; irm https://unsloth.ai/install.ps1 | iex

Die nativen CPU-Thread-Pools von Studio auf Hosts mit vielen Kernen begrenzen: UNSLOTH_CPU_THREADS=8 unsloth studio -p 8888.

Deinstallieren

Der empfohlene Weg, Unsloth Studio vollständig zu entfernen, ist das passende Deinstallationsskript für Ihr Betriebssystem. Es stoppt alle laufenden Server, entfernt das Installationsverzeichnis, das Datenverzeichnis des Launchers, die Desktop-Verknüpfung und alle plattformspezifischen Einträge (macOS .app Bundle + Launch Services auf dem Mac; Startmenü, HKCU\Software\Unsloth Registrierungsschlüssel und Benutzer PATH Einträge unter Windows):

•  MacOS, WSL, Linux:

curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.sh | sh

•  Windows (PowerShell):

 irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex

Wenn Sie nur das Installationsverzeichnis entfernen und den Launcher/die Verknüpfung für eine spätere Neuinstallation behalten möchten, können Sie stattdessen rm -rf ~/.unsloth/studio (Mac/Linux/WSL) oder Remove-Item -Recurse -Force "$HOME\.unsloth\studio" (Windows). Der Modellcache unter ~/.cache/huggingface wird von keinem dieser Schritte berührt.

Manuelle Deinstallation

Wenn Sie lieber nur bestimmte Teile entfernen möchten:

1. Nur App entfernen (beibehält Verlauf, Chats, Checkpoints und Exporte):

• macOS, WSL, Linux: rm -rf ~/.unsloth/studio/unsloth_studio

• Windows (PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"

2. Studio vollständig entfernen (beibehält andere Unsloth-Werkzeuge):

• macOS, WSL, Linux: rm -rf ~/.unsloth/studio

• Windows (PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth\studio"

3. Alles Unsloth-bezogene entfernen:

• macOS, WSL, Linux: rm -rf ~/.unsloth

• Windows (PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth"

Hinweis: Schritt 3 löscht den gesamten Verlauf, Chats, Modell-Checkpoints und Exporte. Dies kann nicht rückgängig gemacht werden.

4. Verknüpfungen und Symlinks entfernen:

macOS:

rm -rf ~/Applications/Unsloth\ Studio.app ~/Desktop/Unsloth\ Studio

Linux:

rm -f ~/.local/share/applications/unsloth-studio.desktop ~/Desktop/unsloth-studio.desktop

WSL / Windows (PowerShell):

Remove-Item -Force "$HOME\Desktop\Unsloth Studio.lnk"
Remove-Item -Force "$env:APPDATA\Microsoft\Windows\Start Menu\Programs\Unsloth Studio.lnk"

5. CLI-Befehl entfernen:

• macOS, Linux, WSL: rm -f ~/.local/bin/unsloth

• Windows (PowerShell): Der Installer hat das Scripts-Verzeichnis der virtuellen Umgebung zu Ihrem Benutzer-PATH hinzugefügt. Um es zu entfernen, öffnen Sie Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen, suchen Sie unter Benutzervariablen und entfernen Sie den Eintrag, der auf .unsloth\studio\...\Scripts Pfad zeigt. Hinweis: Die Schritte 1-5 berühren Ihre heruntergeladenen HF-Modelldateien nicht. Siehe unten „Löschen zwischengespeicherter HF-Modelldateien“, wenn Sie diesen Speicherplatz freigeben möchten..

Löschen zwischengespeicherter HF-Modelldateien

Sie können alte Modelldateien entweder über das Papierkorbsymbol in der Modellsuche löschen oder den entsprechenden zwischengespeicherten Modellordner aus dem Standard-Hugging-Face-Cacheverzeichnis entfernen. Standardmäßig verwendet Hugging Face

~/.cache/huggingface/hub/ unter macOS/Linux/WSL und C:\Users\<username>\.cache\huggingface\hub\ unter Windows. %USERPROFILE%\.cache\huggingface\hub\

• MacOS, Linux, WSL: unter macOS/Linux/WSL und

• Windows: Wenn

HF_HUB_CACHE HF_HOME oder gesetzt ist, verwenden Sie stattdessen diesen Speicherort. Unter Linux und WSL, XDG_CACHE_HOME kann auch den Standard-Cache-Root ändern. Verwendung alter / vorhandener GGUF-Modelle

Update vom 1. April:

Sie können jetzt einen vorhandenen Ordner auswählen, aus dem Unsloth erkennen soll. Update vom 27. März:

Unsloth Studio erkennt jetzt ältere / bereits vorhandene Modelle automatisch heruntergeladen von Hugging Face, LM Studio usw. Manuelle Anweisungen:

Unsloth Studio erkennt Modelle, die in Ihren Hugging-Face-Hub-Cache heruntergeladen wurden (C:\Users{your_username}.cache\huggingface\hub) . Wenn Sie GGUF-Modelle über LM Studio heruntergeladen haben, beachten Sie, dass diese gespeichert werden inC:\Users{your_username}.cache\lm-studio\models ODER C:\Users{your_username}\lm-studio\models . Manchmal, wenn sie nicht sichtbar sind, müssen Sie diese .gguf-Dateien in Ihr Hugging-Face-Hub-Cacheverzeichnis (oder einen anderen für llama.cpp zugänglichen Pfad) verschieben oder kopieren, damit Unsloth Studio sie laden kann. Nachdem Sie in Studio ein Modell oder einen Adapter feinabgestimmt haben, können Sie es nach GGUF exportieren und lokale Inferenz mit

direkt in Studio Chat ausführen. Unsloth Studio wird von llama.cpp und Hugging Face angetrieben. llama.cpp Google-Colab-Notebook

Wir haben ein

kostenloses Google-Colab-Notebook erstellt damit Sie alle Funktionen von Unsloth auf Colabs T4-GPUs erkunden können. Sie können die meisten Modelle mit bis zu 22B Parametern trainieren und ausführen und für größere Modelle auf eine größere GPU wechseln. Klicken Sie einfach auf 'Run all' und die UI sollte nach der Installation erscheinen.

Google Colabcolab.research.google.com

Sobald die Installation abgeschlossen ist, scrollen Sie zu Unsloth Studio starten und klicken Sie auf Unsloth Studio öffnen im weißen Feld auf der linken Seite:

Scrollen Sie weiter nach unten, um die eigentliche UI zu sehen.

Manchmal kann der Studio-Link einen Fehler zurückgeben. Das liegt möglicherweise daran, dass Sie Cookies deaktiviert haben oder einen Adblocker oder Mozilla verwenden. Sie können trotzdem auf die UI zugreifen, indem Sie unter die Schaltfläche scrollen.

Google Colab erwartet außerdem, dass Sie auf der Colab-Seite bleiben; wenn Inaktivität erkannt wird, kann die GPU-Sitzung beendet werden.

Fehlerbehebung

Problem	Lösung
Fehler bei der Python-Version	sudo apt install python3.12 python3.12-venv Version 3.11 bis einschließlich, aber nicht einschließlich 3.14
nvidia-smi nicht gefunden	Installieren Sie NVIDIA-Treiber von https://www.nvidia.com/Download/index.aspx
nvcc nicht gefunden (CUDA)	sudo apt install nvidia-cuda-toolkit oder fügen Sie /usr/local/cuda/bin zu PATH hinzu
llama-server-Build fehlgeschlagen	Nicht fatal, Studio funktioniert weiterhin, GGUF-Inferenz wird nicht verfügbar sein. Installieren Sie cmake und führen Sie das Setup erneut aus, um das Problem zu beheben.
cmake nicht gefunden	sudo apt install cmake
git nicht gefunden	sudo apt install git
Build fehlgeschlagen	Löschen ~/.unsloth/llama.cpp und Setup erneut ausführen