Unsloth Studio-Installation
Lerne, wie du Unsloth Studio auf deinem lokalen Gerät installierst.
Unsloth Studio funktioniert unter Windows, Linux, WSL und MacOS. Sie sollten auf jedem Gerät denselben Installationsprozess verwenden, auch wenn die Systemanforderungen je nach Gerät unterschiedlich sein können.
WindowsmacOSLinux & WSLDockerEntwicklerinstallation
Mac: Wie CPU - Chat + Datenrezepte funktioniert vorerst. MLX Training funktioniert jetzt!
CPU: Unsloth funktioniert weiterhin ohne GPU, aber für Chat + Datenrezepte.
Training: Läuft auf NVIDIA: RTX 30, 40, 50, Blackwell, DGX Spark usw. + Intel + AMD GPUs
Schnellstart
Schritt 1: Unsloth einrichten
Starten Sie das Terminal auf dem Mac und installieren Sie dann Unsloth, indem Sie den folgenden Befehl eingeben.
curl -fsSL https://unsloth.ai/install.sh | shUnsloth beginnt wie unten gezeigt mit der Einrichtung der Umgebung und der Installation der erforderlichen Pakete. Geben Sie Y und drücken Sie Enter ein, wenn Sie gefragt werden, ob Sie Studio jetzt starten möchten. Dadurch wird Unsloth auf Ihrem lokalen 8888 Port gestartet.

Wenn Sie sich entschieden haben, Unsloth während der Installation nicht zu starten, können Sie die Unsloth-App jederzeit mit unsloth studio -p 8888 . Wenn Sie möchten, dass Ihre Unsloth-Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist, fügen Sie -H 0.0.0.0 zum unsloth studio Befehl hinzu.
Schritt 2: Unsloth starten
Öffnen Sie Ihren bevorzugten Browser und gehen Sie zur http://127.0.0.1:8888 URL. Wenn Sie Unsloth zum ersten Mal installieren, werden Sie aufgefordert, ein neues Passwort zu erstellen. Danach sollte sich die Unsloth-App nun wie unten gezeigt auf der Chat-Seite öffnen.

Sie können sofort mit dem Trainieren und Ausführen von Modellen beginnen. Eine ausführlichere Schritt-für-Schritt-Anleitung für den Einstieg finden Sie unten:
Get StartedSchritt 1: Unsloth einrichten
Öffnen Sie das Startmenü, suchen Sie nach PowerShell, und starten Sie es. Kopieren und fügen Sie den folgenden Installationsbefehl ein:
die Installation beginnt automatisch. Nach Abschluss der Installation fragt PowerShell, ob Sie Unsloth Studio starten möchten.

Sie können es auch mit dem folgenden Befehl starten:
Wenn Sie möchten, dass Ihre Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist.
Fügen Sie -H 0.0.0.0 zum unsloth studio Befehl hinzu.
Schritt 2: Unsloth starten
Öffnen Sie http://127.0.0.1:8888 in Ihrem Browser. Erstellen Sie beim ersten Start ein neues Passwort, um zur Chat-Seite fortzufahren. Unsloth Studio ist jetzt installiert und einsatzbereit.
Die Unsloth-App sollte sich nun wie unten gezeigt auf der Chat-Seite öffnen.

Sie können sofort mit dem Trainieren und Ausführen von Modellen beginnen. Eine ausführlichere Schritt-für-Schritt-Anleitung für den Einstieg finden Sie unten:
Get StartedSchritt 1: Unsloth einrichten
Öffnen Sie Ihre Terminal-Anwendung. Sie können sie starten, indem Sie Ctrl + Alt + Toder indem Sie nach Terminal im Anwendungsmenü Ihres Systems suchen.
Klicken Sie auf das Windows-Startmenü, geben Sie den Namen Ihrer installierten Distribution ein (z. B. Ubuntu), und öffnen Sie sie dann.
Bei WSLstellen Sie sicher, dass Ihre NVIDIA-Treiber auf Windows (nicht in WSL) installiert sind und dass das CUDA-Toolkit in Ihrer WSL-Distribution installiert ist. Weitere Details finden Sie unten unter den Systemanforderungen.
Zum Installieren kopieren und führen Sie den Installationsbefehl aus:
Dann:
Klicken Sie in das Terminalfenster
Fügen Sie den Befehl mit
Ctrl + Shift + VDrücken Sie
Enter
Unsloth beginnt wie unten gezeigt mit der Einrichtung der Umgebung und der Installation der erforderlichen Pakete. Geben Sie Y und drücken Sie Enter wenn Sie gefragt werden, ob Sie Studio jetzt starten möchten. Dadurch wird Unsloth auf Ihrem lokalen 8888 Port gestartet.

Wenn Sie sich entschieden haben, Unsloth während der Installation nicht zu starten, können Sie die Unsloth-App jederzeit mit unsloth studio -p 8888 . Wenn Sie möchten, dass Ihre Unsloth-Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist, fügen Sie -H 0.0.0.0 zum unsloth studio Befehl hinzu.
Schritt 2: Unsloth starten
Öffnen Sie Ihren bevorzugten Browser und geben Sie http://127.0.0.1:8888 in das URL-Feld. Wenn Sie Unsloth zum ersten Mal installieren, werden Sie weitergeleitet zu http://127.0.0.1:8888/change-password Seite wie unten gezeigt:

Geben Sie ein neues Passwort in das Neues Passwort Feld ein und geben Sie dasselbe Passwort erneut in Passwort bestätigen ein, klicken Sie dann auf die Passwort ändern Schaltfläche.

Die Unsloth-App sollte sich nun wie gezeigt auf der Chat-Seite öffnen. Unsloth Studio ist jetzt installiert und einsatzbereit.

Sie können sofort mit dem Trainieren und Ausführen von Modellen beginnen. Eine ausführlichere Schritt-für-Schritt-Anleitung für den Einstieg finden Sie unten:
Get StartedUnsloth Studio aktualisieren
Um Unsloth Studio zu aktualisieren, verwenden Sie dieselben Befehle wie bei der Installation:
macOS, WSL, Linux:
Windows (PowerShell):
Systemanforderungen
Windowss
Unsloth Studio funktioniert direkt unter Windows ohne WSL. Um Modelle zu trainieren, stellen Sie sicher, dass Ihr System diese Anforderungen erfüllt:
Anforderungen
Windows 10 oder Windows 11 (64-Bit)
NVIDIA-GPU mit installierten Treibern
App-Installer (enthält
winget): hierGit:
winget install --id Git.Git -e --source wingetPython: Version 3.11 bis einschließlich, aber nicht einschließlich 3.14
Arbeiten Sie in einer Python-Umgebung wie uv, venv, oder conda/mamba
macOS
Unsloth Studio funktioniert auf Mac-Geräten für Chat und Training und alle Funktionen. Sie können MLX-Modelle mit Unsloth ausführen.
macOS 12 Monterey oder neuer (Intel oder Apple Silicon)
Arbeiten Sie in einer Python-Umgebung wie uv, venv, oder conda/mamba
Linux & WSL
Ubuntu 20.04+ oder ähnliche Distribution (64-Bit)
NVIDIA-GPU mit installierten Treibern
CUDA-Toolkit (12.4+ empfohlen, 12.8+ für Blackwell)
Git:
sudo apt install gitPython: Version 3.11 bis einschließlich, aber nicht einschließlich 3.14
Arbeiten Sie in einer Python-Umgebung wie uv, venv, oder conda/mamba
Docker
Unser Docker-Image funktioniert jetzt für Studio! Wir arbeiten an Mac-Kompatibilität.
Laden Sie unser neuestes Unsloth-Container-Image herunter:
docker pull unsloth/unslothFühren Sie den Container über aus:
Für weitere Informationen, siehe hier.
Greifen Sie unter folgender Adresse auf Ihre Studio-Instanz zu
http://localhost:8000oder externe IP-Adressehttp://external_ip_address:8000/
Nur CPU
Unsloth Studio unterstützt CPU-Geräte für Chat für GGUF-Modelle und Datenrezepte (Export (kommt sehr bald)
Genau wie die oben für Linux genannten (außer NVIDIA-GPU-Treiber) und MacOS.
Entwickler- / Nightly-Installationen (Erweitert)
Installation des Haupt-Repos
macOS-, Linux-, WSL-Entwicklerinstallationen:
Um in einen isolierten Speicherort zu installieren (eigene virtuelle Umgebung, auth/, studio.db, Cache und llama.cpp-Build), setzen Sie UNSLOTH_STUDIO_HOME und übergeben Sie es beim Start erneut:
Dann zum Aktualisieren:
Windows PowerShell-Entwicklerinstallationen:
Um in einen isolierten Speicherort zu installieren (eigene virtuelle Umgebung, auth/, studio.db, Cache und llama.cpp-Build), setzen Sie UNSLOTH_STUDIO_HOME und übergeben Sie es beim Start erneut:
Dann zum Aktualisieren:
Remote-Zugriff: --secure (HTTPS-Tunnel) vs. offener Port
--secure (HTTPS-Tunnel) vs. offener PortStandardmäßig unsloth studio bindet an 127.0.0.1 (nur dieser Rechner). Um von einem anderen Gerät darauf zuzugreifen, wählen Sie eine der folgenden Optionen:
--secure(empfohlen): bereitstellen nur über einen kostenlosen Cloudflare-HTTPS-Link. Studio bleibt an localhost gebunden und der Tunnel stellt die öffentliche URL bereit; er schlägt sicher fehl (startet nicht), wenn der Tunnel nicht aufgebaut werden kann, sodass der offene Port niemals offengelegt wird.
-H 0.0.0.0: den offenen Port an alle Netzwerkschnittstellen binden, von überall im Netzwerk erreichbar. Verwenden Sie dies nur in einem vertrauenswürdigen Netzwerk.
Serverseitige Werkzeuge (Websuche, Python- und Terminal-Codeausführung) laufen als Ihr Benutzer und sind standardmäßig aktiviert. Jeder, der den Server mit dem API-Schlüssel erreichen kann, kann auf diesem Rechner Code ausführen, daher halten Sie Ihren API-Schlüssel privat und übergeben Sie --disable-tools wenn Sie Studio öffentlich machen.
Erweiterte Startmethoden
Installer-Optionen können als Umgebungsvariablen übergeben werden. Auf macOS, Linux und WSL platzieren Sie die Variable nach der Pipe, damit die Shell sie an sh; unter Windows setzen Sie sie mit $env: vor dem Weiterleiten an iex.
PyTorch überspringen (nur GGUF-Modus):
Python-Version festlegen:
An einen benutzerdefinierten Speicherort installieren mit UNSLOTH_STUDIO_HOME:
Die nativen CPU-Thread-Pools von Studio auf Hosts mit vielen Kernen begrenzen: UNSLOTH_CPU_THREADS=8 unsloth studio -p 8888.
Deinstallieren
Der empfohlene Weg, Unsloth Studio vollständig zu entfernen, ist das passende Deinstallationsskript für Ihr Betriebssystem. Es stoppt alle laufenden Server, entfernt das Installationsverzeichnis, das Datenverzeichnis des Launchers, die Desktop-Verknüpfung und alle plattformspezifischen Einträge (macOS .app Bundle + Launch Services auf dem Mac; Startmenü, HKCU\Software\Unsloth Registrierungsschlüssel und Benutzer PATH Einträge unter Windows):
MacOS, WSL, Linux:
Windows (PowerShell):
Wenn Sie nur das Installationsverzeichnis entfernen und den Launcher/die Verknüpfung für eine spätere Neuinstallation behalten möchten, können Sie stattdessen rm -rf ~/.unsloth/studio (Mac/Linux/WSL) oder Remove-Item -Recurse -Force "$HOME\.unsloth\studio" (Windows). Der Modellcache unter ~/.cache/huggingface wird von keinem dieser Schritte berührt.
Manuelle Deinstallation
Wenn Sie lieber nur bestimmte Teile entfernen möchten:
1. Nur App entfernen (beibehält Verlauf, Chats, Checkpoints und Exporte):
macOS, WSL, Linux:
rm -rf ~/.unsloth/studio/unsloth_studioWindows (PowerShell):
Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"
2. Studio vollständig entfernen (beibehält andere Unsloth-Werkzeuge):
macOS, WSL, Linux:
rm -rf ~/.unsloth/studioWindows (PowerShell):
Remove-Item -Recurse -Force "$HOME\.unsloth\studio"
3. Alles Unsloth-bezogene entfernen:
macOS, WSL, Linux:
rm -rf ~/.unslothWindows (PowerShell):
Remove-Item -Recurse -Force "$HOME\.unsloth"
Hinweis: Schritt 3 löscht den gesamten Verlauf, Chats, Modell-Checkpoints und Exporte. Dies kann nicht rückgängig gemacht werden.
4. Verknüpfungen und Symlinks entfernen:
macOS:
Linux:
WSL / Windows (PowerShell):
5. CLI-Befehl entfernen:
macOS, Linux, WSL:
rm -f ~/.local/bin/unslothWindows (PowerShell): Der Installer hat das Scripts-Verzeichnis der virtuellen Umgebung zu Ihrem Benutzer-PATH hinzugefügt. Um es zu entfernen, öffnen Sie Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen, suchen Sie
unter Benutzervariablen und entfernen Sie den Eintrag, der auf.unsloth\studio\...\ScriptsPfadzeigt.Hinweis: Die Schritte 1-5 berühren Ihre heruntergeladenen HF-Modelldateien nicht. Siehe unten „Löschen zwischengespeicherter HF-Modelldateien“, wenn Sie diesen Speicherplatz freigeben möchten..
Löschen zwischengespeicherter HF-Modelldateien
Sie können alte Modelldateien entweder über das Papierkorbsymbol in der Modellsuche löschen oder den entsprechenden zwischengespeicherten Modellordner aus dem Standard-Hugging-Face-Cacheverzeichnis entfernen. Standardmäßig verwendet Hugging Face
~/.cache/huggingface/hub/ unter macOS/Linux/WSL und C:\Users\<username>\.cache\huggingface\hub\ unter Windows. %USERPROFILE%\.cache\huggingface\hub\
MacOS, Linux, WSL:
unter macOS/Linux/WSL undWindows:
Wenn
HF_HUB_CACHE HF_HOME oder gesetzt ist, verwenden Sie stattdessen diesen Speicherort. Unter Linux und WSL, XDG_CACHE_HOME kann auch den Standard-Cache-Root ändern. Verwendung alter / vorhandener GGUF-Modelle
Update vom 1. April:
Sie können jetzt einen vorhandenen Ordner auswählen, aus dem Unsloth erkennen soll. Update vom 27. März:
Unsloth Studio erkennt jetzt ältere / bereits vorhandene Modelle automatisch heruntergeladen von Hugging Face, LM Studio usw. Manuelle Anweisungen:

Unsloth Studio erkennt Modelle, die in Ihren Hugging-Face-Hub-Cache heruntergeladen wurden (C:\Users{your_username}.cache\huggingface\hub) . Wenn Sie GGUF-Modelle über LM Studio heruntergeladen haben, beachten Sie, dass diese gespeichert werden inC:\Users{your_username}.cache\lm-studio\models ODER C:\Users{your_username}\lm-studio\models . Manchmal, wenn sie nicht sichtbar sind, müssen Sie diese .gguf-Dateien in Ihr Hugging-Face-Hub-Cacheverzeichnis (oder einen anderen für llama.cpp zugänglichen Pfad) verschieben oder kopieren, damit Unsloth Studio sie laden kann. Nachdem Sie in Studio ein Modell oder einen Adapter feinabgestimmt haben, können Sie es nach GGUF exportieren und lokale Inferenz mit
direkt in Studio Chat ausführen. Unsloth Studio wird von llama.cpp und Hugging Face angetrieben. llama.cpp Google-Colab-Notebook
Wir haben ein
kostenloses Google-Colab-Notebook erstellt damit Sie alle Funktionen von Unsloth auf Colabs T4-GPUs erkunden können. Sie können die meisten Modelle mit bis zu 22B Parametern trainieren und ausführen und für größere Modelle auf eine größere GPU wechseln. Klicken Sie einfach auf 'Run all' und die UI sollte nach der Installation erscheinen.
Sobald die Installation abgeschlossen ist, scrollen Sie zu Unsloth Studio starten und klicken Sie auf Unsloth Studio öffnen im weißen Feld auf der linken Seite:
Scrollen Sie weiter nach unten, um die eigentliche UI zu sehen.

Manchmal kann der Studio-Link einen Fehler zurückgeben. Das liegt möglicherweise daran, dass Sie Cookies deaktiviert haben oder einen Adblocker oder Mozilla verwenden. Sie können trotzdem auf die UI zugreifen, indem Sie unter die Schaltfläche scrollen.
Google Colab erwartet außerdem, dass Sie auf der Colab-Seite bleiben; wenn Inaktivität erkannt wird, kann die GPU-Sitzung beendet werden.
Fehlerbehebung
Fehler bei der Python-Version
sudo apt install python3.12 python3.12-venv Version 3.11 bis einschließlich, aber nicht einschließlich 3.14
nvidia-smi nicht gefunden
Installieren Sie NVIDIA-Treiber von https://www.nvidia.com/Download/index.aspx
nvcc nicht gefunden (CUDA)
sudo apt install nvidia-cuda-toolkit oder fügen Sie /usr/local/cuda/bin zu PATH hinzu
llama-server-Build fehlgeschlagen
Nicht fatal, Studio funktioniert weiterhin, GGUF-Inferenz wird nicht verfügbar sein. Installieren Sie cmake und führen Sie das Setup erneut aus, um das Problem zu beheben.
cmake nicht gefunden
sudo apt install cmake
git nicht gefunden
sudo apt install git
Build fehlgeschlagen
Löschen ~/.unsloth/llama.cpp und Setup erneut ausführen
Zuletzt aktualisiert
War das hilfreich?

