Mit Unsloth Studio loslegen
Ein Leitfaden zum Einstieg in das Feinabstimmungs-Studio, Datenrezepte, Modellausgabe und Chat.
Unsloth Studio ist eine lokale, browserbasierte GUI zum Fine-Tuning von LLMs, ohne eine einzige Zeile Code zu schreiben. Es kapselt die Trainingspipeline in einer übersichtlichen Oberfläche, die das Laden von Modellen, die Formatierung von Datensätzen, die Konfiguration von Hyperparametern und die Live-Überwachung des Trainings übernimmt.
Unsloth Studio einrichten
Starten Sie zunächst Unsloth Studio entweder mit einer lokalen Installation oder einer Cloud-Option. Folgen Sie den Installationsanweisungen für Ihr Setup oder nutzen Sie unser kostenloses Colab Notebook. Für ein lokales Setup führen Sie Folgendes aus:
unsloth studio -H 0.0.0.0 -p 8888Öffnen Sie Ihren bevorzugten Browser und geben Sie http://127.0.0.1:8888 in das URL-Feld ein.
Wenn Sie Unsloth zum ersten Mal installieren, werden Sie zur http://127.0.0.1:8888/change-password Seite weitergeleitet. Dort müssen Sie ein neues Passwort erstellen. Sie können Ihr Passwort später jederzeit ändern.

Chat – Schnellstart
Unsloth Studio Chat ermöglicht es Ihnen, Modelle zu 100 % offline auf Ihrem Computer auszuführen. Führen Sie Modellformate wie GGUF und safetensors von Hugging Face oder aus Ihren lokalen Dateien aus.
Herunterladen + Ausführen jedes Modell wie GGUFs, feinabgestimmte Adapter, safetensors usw.
Modelle verschiedene Modell Ausgaben nebeneinander
Hochladen Dokumente, Bilder und Audio in Ihren Prompts
Anpassen Inferenz Einstellungen wie: Temperatur, top-p, top-k und Systemprompt

Hier können Sie unser ausführliches Tutorial / unseren Leitfaden zur Ausführung von Modellen mit Unsloth Studio lesen:
Studio ChatModell-Ladeanleitung
Vor der Verwendung der API müssen Sie das Modell laden das Sie verwenden möchten in Unsloth. Öffnen Sie das Modell auswählen Dropdown-Menü in der oberen linken Ecke der Chat-Seite.

Auf einer anderen Seite? Nutzen Sie die linke Seitenleiste und klicken Sie Neuer Chat um zur Chat-Seite zurückzukehren.
Modell auswählen
Verwenden Sie die Suchleiste, um das Modell zu finden, das Sie in Unsloth laden möchten.
Durchsuchen Sie empfohlene Modelle, suchen Sie direkt nach Hugging-Face-Modellen oder legen Sie ein benutzerdefiniertes Modellverzeichnis fest.
Lokal trainierte und exportierte Modelle können über den Tab `Fine-tuned` geladen werden.


Das Modell herunterladen
Suchen Sie nach dem Modell, das Sie verwenden möchten, und klicken Sie darauf um den Download und das Laden zu beginnen.
Nachdem Sie eine Modellvariante ausgewählt haben, beginnt Unsloth mit dem Herunterladen und Laden des Modells in den Speicher.
Sobald das Laden abgeschlossen ist, sehen Sie die folgende Bestätigung:


Das Modell ist geladen und einsatzbereit. Sie können jetzt direkt in Unsloth mit dem Modell chatten oder es mit Tools wie Claude Code und Codex.

Studio – Schnellstart
Die Unsloth Studio-Startseite hat 4 Hauptbereiche: Modell, Datensatz, Parameter, und Training/Konfiguration
Einfache Einrichtung für Modelle und Daten von Hugging Face oder lokalen Dateien
Flexible Trainingsoptionen wie QLoRA, LoRA oder vollständiges Fine-Tuning, mit vorausgefüllten Standardwerten
Hilfreiche Konfigurationstools für Splits, Spaltenzuordnung, Hyperparameter und YAML-Konfigurationen
Großartige Transparenz beim Training mit Live-Fortschritt, GPU-Statistiken, Diagrammen, Startstatus

1. Modell und Methode auswählen
Modelltyp
Wählen Sie die Modalität, die zu Ihrem Anwendungsfall passt:
Text
Chat, Anweisungsbefolgung, Vervollständigung
Vision
Bild + Text (VLMs)
Audio
Sprache / Audioverständnis
Embeddings
Satz-Embeddings, Retrieval
Trainingsmethode
Es stehen drei Methoden zur Verfügung, umschaltbar mit einem Pillen-Selektor:
QLoRA
4-Bit quantisiertes Basismodell + LoRA-Adapter
Am niedrigsten
LoRA
Basismodell in voller Präzision + LoRA-Adapter
Mittel
Vollständiges Fine-Tuning
Alle Gewichte werden trainiert
Am höchsten
Geben Sie einen beliebigen Hugging-Face-Modellnamen ein oder suchen Sie den Hub direkt über das Kombinationsfeld. Lokale Modelle, die in ~/.unsloth/studio/models gespeichert sind, sowie Ihr Hugging-Face-Cache erscheinen ebenfalls in der Liste.
Modelle im GGUF-Format sind vom Training ausgeschlossen – sie dienen nur der Inferenz.
Wenn Sie ein Modell auswählen, ruft Studio automatisch dessen Konfiguration vom Backend ab und füllt sinnvolle Standardwerte für alle Hyperparameter vor.
HuggingFace-Token
Fügen Sie hier Ihren Hugging-Face-Zugriffstoken ein, wenn das Modell eingeschränkt ist (z. B. Llama, Gemma). Der Token wird in Echtzeit validiert und bei Ungültigkeit wird inline ein Fehler angezeigt.
2. Datensatz
Wechseln Sie zwischen zwei Tabs, um auszuwählen, woher Ihre Daten stammen:
HuggingFace Hub - Live-Suche im Hub. Das Datum der letzten Aktualisierung wird für jedes Ergebnis angezeigt.
Lokal - per Drag & Drop oder Klick eine Datei hochladen, unstrukturierte oder strukturierte Dateien wie:
PDF,DOCX,JSONL,JSON,CSV, oderParquetFormat. Zuvor hochgeladene Datensätze erscheinen in einer Liste, die sich automatisch aktualisiert.
Sie können unseren ausführlichen Datensatz-Leitfaden hier.
Prompt Studio, wie Ihre Daten interpretiert und formatiert werden sollen:

wird sauber zugeordnet: Anthropic
Unsloth das Format automatisch erkennen lassen
alpaca
instruction / input / output Spalten
chatml
OpenAI-Stil messages Array
sharegpt
ShareGPT-ähnliche Unterhaltungen
Splits und Slicing
Subset - wird automatisch aus der Datensatzkarte übernommen.
Train-Split / Eval-Split - wählen Sie, welche Splits verwendet werden sollen. Das Festlegen eines Eval-Splits aktiviert das Eval Loss Diagramm während des Trainings.
Datensatz-Ausschnitt - das Training optional auf einen Zeilenbereich beschränken (Startindex / Endindex) für schnelle Experimente.
Spaltenzuordnung
Wenn Studio Ihre Datensatzspalten nicht automatisch den richtigen Rollen zuordnen kann, öffnet sich ein Datensatz-Vorschau-Dialog . Er zeigt Beispielzeilen und ermöglicht es Ihnen, jede Spalte zuzuweisen zu instruction, input, output, Bild, usw. Vorgeschlagene Zuordnungen werden, soweit möglich, vorausgefüllt.
3. Hyperparameter
Parameter sind in aufklappbare Abschnitte gruppiert. Sie können unseren ausführlichen LoRA-Hyperparameter-Leitfaden hier ansehen:
🧠Hyperparameters GuideMax. Schritte
0
0 bedeutet stattdessen Epochen verwenden
Kontextlänge
2048
Optionen: 512 → 32768
Lernrate
2e-4
LoRA-Einstellungen
(Ausgeblendet, wenn Vollständiges Fine-Tuning ausgewählt ist)
Rank
16
Schieberegler 4–128
Alpha
32
Schieberegler 4–256
Dropout
0.05
LoRA-Variante
LoRA
LoRA / RS-LoRA / LoftQ
Zielmodule
Alle an
q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
Für Vision Modelle mit einem Bilddatensatz erscheinen vier zusätzliche Kontrollkästchen. Fine-Tuning:
Vision-Layer
Sprach-Layer
Attention-Module
MLP-Module
Trainings-Hyperparameter
In drei Tabs organisiert:
Epochen
3
Batch-Größe
4
Gradientenakkumulation
8
Gewichtsabnahme
0.01
Optimizer
AdamW 8-bit
LR-Scheduler
linear
Warmup-Schritte
5
Gradienten-Checkpointing
unsloth
Zufalls-Seed
3407
Speicher-Schritte
0
Eval-Schritte
0
Packing
false
Auf Vervollständigungen trainieren
false
W&B aktivieren
false
W&B-Projekt
llm-finetuning
TensorBoard aktivieren
false
TensorBoard-Verzeichnis
runs
Log-Frequenz
10
Unsloth Gradient Checkpointing: unsloth verwendet Unsloths eigene speichereffiziente Implementierung, die den VRAM-Verbrauch im Vergleich zur standardmäßigen PyTorch-Option deutlich reduzieren kann. Sie ist die empfohlene Standardeinstellung.
4. Training und Konfiguration
Die Karte unten rechts hat drei Schaltflächen zur Konfigurationsverwaltung und die Training starten Schaltfläche.
Hochladen
Eine zuvor gespeicherte .yaml Konfigurationsdatei laden
Speichern
Die aktuelle Konfiguration als YAML exportieren
Zurücksetzen
Alle Parameter auf die Standardwerte des Modells zurücksetzen
Die Schaltfläche „Training starten“ bleibt deaktiviert, bis sowohl ein Modell als auch ein Datensatz konfiguriert sind. Validierungsfehler werden inline angezeigt – zum Beispiel, wenn Eval-Schritte festgelegt werden, ohne einen Eval-Split auszuwählen, oder wenn ein textbasiertes Modell mit einem Vision-Datensatz kombiniert wird.
Ladebildschirm
Nachdem Sie Training startengeklickt haben, erscheint ein Vollbild-Overlay, während das Backend alles vorbereitet.

Das Overlay zeigt ein animiertes Terminal mit Live-Phasenaktualisierungen:
Blau: Modell / Datensatz wird heruntergeladen
Bernstein: Modell / Datensatz wird geladen
Blau: Konfiguration wird durchgeführt
Grün: Training
Sie können jederzeit abbrechen, indem Sie die × Schaltfläche in der Ecke verwenden. Bevor etwas gestoppt wird, erscheint ein Bestätigungsdialog.
Trainingsfortschritt und Beobachtbarkeit
Sobald der erste Trainingsschritt eintrifft, schließt sich das Overlay und die Live-Trainingsansicht wird angezeigt. Der Fine-Tuning-Prozess ist abgeschlossen, wenn die Schritte auf der Fortschrittsleiste 100 % erreichen. Sie können die vergangene Zeit und die Token anzeigen.

Status-Panel
Die linke Spalte zeigt:
Epoche - aktuelle anteilige Epoche (z. B.
Epoche 1.23)Fortschrittsbalken - schrittbasiert, mit Prozentsatz
Wichtige Metriken:
Verlust - Trainingsverlust auf 4 Dezimalstellen
LR - aktuelle Lernrate in wissenschaftlicher Schreibweise
Grad Norm - Gradienten-Norm
Modell - das trainierte Modell
Methode -
QLoRA/LoRA/Voll
Zeitzeile - vergangene Zeit, ETA, Schritte pro Sekunde und insgesamt verarbeitete Token
GPU-Monitor
Die rechte Spalte zeigt Live-GPU-Statistiken, die alle paar Sekunden abgefragt werden:
Auslastung - Prozentbalken
Temperatur - °C-Balken
VRAM - verwendet / insgesamt GB
Leistung - Verbrauch / Limit in Watt
Training stoppen
Verwenden Sie die Training stoppen Schaltfläche oben rechts in der Fortschrittskarte. Ein Dialog bietet Ihnen zwei Auswahlmöglichkeiten:
Stoppen & Speichern - speichert einen Checkpoint, bevor gestoppt wird
Abbrechen - stoppt sofort ohne Checkpoint
Diagramme
Vier Live-Diagramme werden während des Trainings fortlaufend aktualisiert:
Trainingsverlust - Rohwerte plus eine EMA-geglättete Linie und eine Referenzlinie des gleitenden Durchschnitts
Lernrate - die LR-Zeitplankurve
Gradientennorm - Gradientennorm über die Schritte
Eval Loss - wird nur angezeigt, wenn Sie einen Eval-Split konfiguriert haben

Jedes Diagramm hat Einstellungen (Zahnradsymbol) mit:
Anzeigefenster
Schieberegler für die letzten N Schritte
EMA-Glättung
0.6
Roh anzeigen
An
Geglättet anzeigen
An
Durchschnittslinie anzeigen
An
Skalierung (pro Reihe)
Linear / Log
Ausreißer-Beschneidung
Kein Clip / p99 / p95

Konfigurationsdateien
Alle Trainingskonfigurationen können als YAML-Dateien gespeichert und erneut geladen werden. Die Dateien werden automatisch benannt als:

Das YAML ist in drei Abschnitte gegliedert:
Dadurch lassen sich Läufe leicht reproduzieren, Konfigurationen teilen oder Ihre Experimente per Versionskontrolle verwalten.
Datenrezepte – Schnellstart
Unsloth Data Recipes ermöglicht es Ihnen, Dokumente wie PDFs oder CSV-Dateien hochzuladen und sie in nutzbare Datensätze umzuwandeln. Erstellen und bearbeiten Sie Datensätze visuell über einen Graph-Knoten-Workflow.
Die Rezeptseite ist der Haupteinstiegspunkt. Rezepte werden lokal im Browser gespeichert, sodass Sie später zu Ihren gespeicherten Arbeiten zurückkehren können. Von hier aus können Sie ein leeres Rezept erstellen oder ein geführtes Lernrezept öffnen.

Data Recipes folgt demselben grundlegenden Ablauf. Sie öffnen die Rezeptseite, erstellen oder wählen ein Rezept, bauen den Workflow im Editor auf, validieren ihn, führen eine Vorschau aus und erstellen dann den vollständigen Datensatz, sobald das Ergebnis korrekt aussieht. Fügen Sie Ausgangsdaten und Generierungsblöcke hinzu, validieren Sie den Workflow, sehen Sie sich Beispielausgaben in der Vorschau an und führen Sie dann einen vollständigen Dataset-Build aus. Unsloth Data Recipes wird von NVIDIA DataDesigner.
Auf einen Blick sollte ein typischer Workflow so aussehen:
Öffnen Sie die Rezeptseite.
Erstellen Sie ein neues Rezept oder öffnen Sie ein vorhandenes.
Fügen Sie Blöcke hinzu, um Ihren Datensatz-Workflow zu definieren.
Klicken Sie auf Validieren um Konfigurationsprobleme frühzeitig zu erkennen.
Führen Sie eine Vorschau aus, um Beispielzeilen schnell zu prüfen.
Führen Sie einen vollständigen Dataset-Build aus, wenn das Rezept bereit ist.
Überprüfen Sie den Fortschritt und die Ausgabe live im Graph oder in der Ausführungen Ansicht für weitere Details.
Wählen Sie den resultierenden Datensatz in Studio aus und feinabstimmen Sie ein Modell.
Export – Schnellstart
Verwenden Sie in Unsloth Studio „Export“, um Modelle für Bereitstellung, Teilen oder lokale Inferenz in Unsloth, llama.cpp, Ollama, vLLM und mehr zu exportieren, zu speichern oder in GGUF, Safetensors oder LoRA umzuwandeln. Exportieren Sie einen trainierten Checkpoint oder konvertieren Sie ein beliebiges vorhandenes Modell.

Hier können Sie unser ausführliches Tutorial / unseren Leitfaden zum Exportieren von Modellen mit Unsloth Studio lesen:
Model Export Video-Tutorial
Die in den Videos gezeigten Versionen von Unsloth Studio sind alt und entsprechen nicht der aktuellen Version.
Hier ist ein von NVIDIA erstelltes Video-Tutorial, um Ihnen den Einstieg in Studio zu erleichtern:
Video-Tutorial zur Installation von Unsloth Studio
Erweiterte Einstellungen
CLI-Befehle
Die Unsloth CLI (cli.py) bietet die folgenden Befehle:
Projektstruktur
API-Referenz
Alle Endpunkte erfordern ein gültiges JWT Authorization: Bearer <token> Header (außer /api/auth/* und /api/health).
GET
/api/health
Systemstatusprüfung
GET
/api/system
Systeminformationen (GPU, CPU, Speicher)
POST
/api/auth/signup
Konto erstellen (erfordert beim ersten Start ein Einrichtungs-Token)
POST
/api/auth/login
Anmelden und JWT-Token erhalten
POST
/api/auth/refresh
Einen abgelaufenen Access-Token aktualisieren
GET
/api/auth/status
Prüfen, ob die Authentifizierung initialisiert ist
POST
/api/train/start
Einen Trainingsauftrag starten
POST
/api/train/stop
Einen laufenden Trainingsauftrag stoppen
POST
/api/train/reset
Trainingsstatus zurücksetzen
GET
/api/train/status
Aktuellen Trainingsstatus abrufen
GET
/api/train/metrics
Trainingsmetriken abrufen (Verlust, LR, Schritte)
GET
/api/train/stream
SSE-Stream des Trainingsfortschritts in Echtzeit
GET
/api/models/
Verfügbare Modelle auflisten
POST
/api/inference/chat
Eine Chat-Nachricht für die Inferenz senden
GET
/api/datasets/
Datensätze auflisten / verwalten
Zuletzt aktualisiert
War das hilfreich?

