Mit Unsloth Studio loslegen

Unsloth Studio ist eine lokale, browserbasierte GUI zum Fine-Tuning von LLMs, ohne eine einzige Zeile Code zu schreiben. Es kapselt die Trainingspipeline in einer übersichtlichen Oberfläche, die das Laden von Modellen, die Formatierung von Datensätzen, die Konfiguration von Hyperparametern und die Live-Überwachung des Trainings übernimmt.

StudioDatenrezeptExportChat

Unsloth Studio einrichten

Starten Sie zunächst Unsloth Studio entweder mit einer lokalen Installation oder einer Cloud-Option. Folgen Sie den Installationsanweisungen für Ihr Setup oder nutzen Sie unser kostenloses Colab Notebook. Für ein lokales Setup führen Sie Folgendes aus:

unsloth studio -H 0.0.0.0 -p 8888

Öffnen Sie Ihren bevorzugten Browser und geben Sie http://127.0.0.1:8888 in das URL-Feld ein.

Wenn Sie Unsloth zum ersten Mal installieren, werden Sie zur http://127.0.0.1:8888/change-password Seite weitergeleitet. Dort müssen Sie ein neues Passwort erstellen. Sie können Ihr Passwort später jederzeit ändern.

Chat – Schnellstart

Unsloth Studio Chat ermöglicht es Ihnen, Modelle zu 100 % offline auf Ihrem Computer auszuführen. Führen Sie Modellformate wie GGUF und safetensors von Hugging Face oder aus Ihren lokalen Dateien aus.

• Herunterladen + Ausführen jedes Modell wie GGUFs, feinabgestimmte Adapter, safetensors usw.

• Modelle verschiedene Modell Ausgaben nebeneinander

• Hochladen Dokumente, Bilder und Audio in Ihren Prompts

• Anpassen Inferenz Einstellungen wie: Temperatur, top-p, top-k und Systemprompt

Hier können Sie unser ausführliches Tutorial / unseren Leitfaden zur Ausführung von Modellen mit Unsloth Studio lesen:

Modell-Ladeanleitung

Vor der Verwendung der API müssen Sie das Modell laden das Sie verwenden möchten in Unsloth. Öffnen Sie das Modell auswählen Dropdown-Menü in der oberen linken Ecke der Chat-Seite.

Modell auswählen

Verwenden Sie die Suchleiste, um das Modell zu finden, das Sie in Unsloth laden möchten.

Durchsuchen Sie empfohlene Modelle, suchen Sie direkt nach Hugging-Face-Modellen oder legen Sie ein benutzerdefiniertes Modellverzeichnis fest.

Lokal trainierte und exportierte Modelle können über den Tab `Fine-tuned` geladen werden.

GGUF-Auswahl

Modell-Repositories enthalten mehrere Quantisierungen. Wählen Sie die Quantisierung, die am besten zu Ihrem verfügbaren RAM / VRAM passt. In diesem Leitfaden verwenden wir unsloth/gemma-4-26B-A4B-it-GGUF und wählen die empfohlene UD-Q4_K_XL Variante

Das Modell herunterladen

Suchen Sie nach dem Modell, das Sie verwenden möchten, und klicken Sie darauf um den Download und das Laden zu beginnen.

Nachdem Sie eine Modellvariante ausgewählt haben, beginnt Unsloth mit dem Herunterladen und Laden des Modells in den Speicher.

Sobald das Laden abgeschlossen ist, sehen Sie die folgende Bestätigung:

Das Modell ist geladen und einsatzbereit. Sie können jetzt direkt in Unsloth mit dem Modell chatten oder es mit Tools wie Claude Code und Codex.

Studio – Schnellstart

Die Unsloth Studio-Startseite hat 4 Hauptbereiche: Modell, Datensatz, Parameter, und Training/Konfiguration

• Einfache Einrichtung für Modelle und Daten von Hugging Face oder lokalen Dateien

• Flexible Trainingsoptionen wie QLoRA, LoRA oder vollständiges Fine-Tuning, mit vorausgefüllten Standardwerten

• Hilfreiche Konfigurationstools für Splits, Spaltenzuordnung, Hyperparameter und YAML-Konfigurationen

• Großartige Transparenz beim Training mit Live-Fortschritt, GPU-Statistiken, Diagrammen, Startstatus

1. Modell und Methode auswählen

Modelltyp

Wählen Sie die Modalität, die zu Ihrem Anwendungsfall passt:

Trainingsmethode

Es stehen drei Methoden zur Verfügung, umschaltbar mit einem Pillen-Selektor:

Geben Sie einen beliebigen Hugging-Face-Modellnamen ein oder suchen Sie den Hub direkt über das Kombinationsfeld. Lokale Modelle, die in ~/.unsloth/studio/models gespeichert sind, sowie Ihr Hugging-Face-Cache erscheinen ebenfalls in der Liste.

Wenn Sie ein Modell auswählen, ruft Studio automatisch dessen Konfiguration vom Backend ab und füllt sinnvolle Standardwerte für alle Hyperparameter vor.

HuggingFace-Token

Fügen Sie hier Ihren Hugging-Face-Zugriffstoken ein, wenn das Modell eingeschränkt ist (z. B. Llama, Gemma). Der Token wird in Echtzeit validiert und bei Ungültigkeit wird inline ein Fehler angezeigt.

2. Datensatz

Wechseln Sie zwischen zwei Tabs, um auszuwählen, woher Ihre Daten stammen:

• HuggingFace Hub - Live-Suche im Hub. Das Datum der letzten Aktualisierung wird für jedes Ergebnis angezeigt.

• Lokal - per Drag & Drop oder Klick eine Datei hochladen, unstrukturierte oder strukturierte Dateien wie: PDF, DOCX, JSONL, JSON, CSV, oder Parquet Format. Zuvor hochgeladene Datensätze erscheinen in einer Liste, die sich automatisch aktualisiert.

Sie können unseren ausführlichen Datensatz-Leitfaden hier.

Prompt Studio, wie Ihre Daten interpretiert und formatiert werden sollen:

Splits und Slicing

• Subset - wird automatisch aus der Datensatzkarte übernommen.

• Train-Split / Eval-Split - wählen Sie, welche Splits verwendet werden sollen. Das Festlegen eines Eval-Splits aktiviert das Eval Loss Diagramm während des Trainings.

• Datensatz-Ausschnitt - das Training optional auf einen Zeilenbereich beschränken (Startindex / Endindex) für schnelle Experimente.

Spaltenzuordnung

Wenn Studio Ihre Datensatzspalten nicht automatisch den richtigen Rollen zuordnen kann, öffnet sich ein Datensatz-Vorschau-Dialog . Er zeigt Beispielzeilen und ermöglicht es Ihnen, jede Spalte zuzuweisen zu instruction, input, output, Bild, usw. Vorgeschlagene Zuordnungen werden, soweit möglich, vorausgefüllt.

3. Hyperparameter

Parameter sind in aufklappbare Abschnitte gruppiert. Sie können unseren ausführlichen LoRA-Hyperparameter-Leitfaden hier ansehen:

LoRA-Einstellungen

(Ausgeblendet, wenn Vollständiges Fine-Tuning ausgewählt ist)

Für Vision Modelle mit einem Bilddatensatz erscheinen vier zusätzliche Kontrollkästchen. Fine-Tuning:

Trainings-Hyperparameter

In drei Tabs organisiert:

4. Training und Konfiguration

Die Karte unten rechts hat drei Schaltflächen zur Konfigurationsverwaltung und die Training starten Schaltfläche.

Die Schaltfläche „Training starten“ bleibt deaktiviert, bis sowohl ein Modell als auch ein Datensatz konfiguriert sind. Validierungsfehler werden inline angezeigt – zum Beispiel, wenn Eval-Schritte festgelegt werden, ohne einen Eval-Split auszuwählen, oder wenn ein textbasiertes Modell mit einem Vision-Datensatz kombiniert wird.

Ladebildschirm

Nachdem Sie Training startengeklickt haben, erscheint ein Vollbild-Overlay, während das Backend alles vorbereitet.

Das Overlay zeigt ein animiertes Terminal mit Live-Phasenaktualisierungen:

• Blau: Modell / Datensatz wird heruntergeladen

• Bernstein: Modell / Datensatz wird geladen

• Blau: Konfiguration wird durchgeführt

• Grün: Training

Sie können jederzeit abbrechen, indem Sie die × Schaltfläche in der Ecke verwenden. Bevor etwas gestoppt wird, erscheint ein Bestätigungsdialog.

Trainingsfortschritt und Beobachtbarkeit

Sobald der erste Trainingsschritt eintrifft, schließt sich das Overlay und die Live-Trainingsansicht wird angezeigt. Der Fine-Tuning-Prozess ist abgeschlossen, wenn die Schritte auf der Fortschrittsleiste 100 % erreichen. Sie können die vergangene Zeit und die Token anzeigen.

Diagramme

Vier Live-Diagramme werden während des Trainings fortlaufend aktualisiert:

1. Trainingsverlust - Rohwerte plus eine EMA-geglättete Linie und eine Referenzlinie des gleitenden Durchschnitts

2. Lernrate - die LR-Zeitplankurve

3. Gradientennorm - Gradientennorm über die Schritte

4. Eval Loss - wird nur angezeigt, wenn Sie einen Eval-Split konfiguriert haben

Jedes Diagramm hat Einstellungen (Zahnradsymbol) mit:

Option

Standard

Anzeigefenster

Schieberegler für die letzten N Schritte

EMA-Glättung

0.6

Roh anzeigen

An

Geglättet anzeigen

An

Durchschnittslinie anzeigen

An

Skalierung (pro Reihe)

Linear / Log

Ausreißer-Beschneidung

Kein Clip / p99 / p95

Konfigurationsdateien

Alle Trainingskonfigurationen können als YAML-Dateien gespeichert und erneut geladen werden. Die Dateien werden automatisch benannt als:

Das YAML ist in drei Abschnitte gegliedert:

Dadurch lassen sich Läufe leicht reproduzieren, Konfigurationen teilen oder Ihre Experimente per Versionskontrolle verwalten.

Datenrezepte – Schnellstart

Unsloth Data Recipes ermöglicht es Ihnen, Dokumente wie PDFs oder CSV-Dateien hochzuladen und sie in nutzbare Datensätze umzuwandeln. Erstellen und bearbeiten Sie Datensätze visuell über einen Graph-Knoten-Workflow.

Die Rezeptseite ist der Haupteinstiegspunkt. Rezepte werden lokal im Browser gespeichert, sodass Sie später zu Ihren gespeicherten Arbeiten zurückkehren können. Von hier aus können Sie ein leeres Rezept erstellen oder ein geführtes Lernrezept öffnen.

Data Recipes folgt demselben grundlegenden Ablauf. Sie öffnen die Rezeptseite, erstellen oder wählen ein Rezept, bauen den Workflow im Editor auf, validieren ihn, führen eine Vorschau aus und erstellen dann den vollständigen Datensatz, sobald das Ergebnis korrekt aussieht. Fügen Sie Ausgangsdaten und Generierungsblöcke hinzu, validieren Sie den Workflow, sehen Sie sich Beispielausgaben in der Vorschau an und führen Sie dann einen vollständigen Dataset-Build aus. Unsloth Data Recipes wird von NVIDIA DataDesigner.

Auf einen Blick sollte ein typischer Workflow so aussehen:

1. Öffnen Sie die Rezeptseite.

2. Erstellen Sie ein neues Rezept oder öffnen Sie ein vorhandenes.

3. Fügen Sie Blöcke hinzu, um Ihren Datensatz-Workflow zu definieren.

4. Klicken Sie auf Validieren um Konfigurationsprobleme frühzeitig zu erkennen.

5. Führen Sie eine Vorschau aus, um Beispielzeilen schnell zu prüfen.

6. Führen Sie einen vollständigen Dataset-Build aus, wenn das Rezept bereit ist.

7. Überprüfen Sie den Fortschritt und die Ausgabe live im Graph oder in der Ausführungen Ansicht für weitere Details.

8. Wählen Sie den resultierenden Datensatz in Studio aus und feinabstimmen Sie ein Modell.

Export – Schnellstart

Verwenden Sie in Unsloth Studio „Export“, um Modelle für Bereitstellung, Teilen oder lokale Inferenz in Unsloth, llama.cpp, Ollama, vLLM und mehr zu exportieren, zu speichern oder in GGUF, Safetensors oder LoRA umzuwandeln. Exportieren Sie einen trainierten Checkpoint oder konvertieren Sie ein beliebiges vorhandenes Modell.

Hier können Sie unser ausführliches Tutorial / unseren Leitfaden zum Exportieren von Modellen mit Unsloth Studio lesen:

Video-Tutorial

Erweiterte Einstellungen

CLI-Befehle

Die Unsloth CLI (cli.py) bietet die folgenden Befehle:

Projektstruktur

API-Referenz

Alle Endpunkte erfordern ein gültiges JWT Authorization: Bearer <token> Header (außer /api/auth/* und /api/health).