For the complete documentation index, see llms.txt. This page is also available as Markdown.

🦥Unsloth Studio vorgestellt

KI-Modelle lokal mit Unsloth Studio ausführen und trainieren.

Wir starten Unsloth Studio (Beta): eine Open-Source-No-Code-Weboberfläche zum Trainieren, Ausführen und Exportieren offener Modelle in einer einheitlichen lokalen Oberfläche.

SchnellstartFunktionenGitHub

  • GGUF ausführen, MLX und Diffusions-Bild-/Videomodelle lokal auf Mac, Windows, Linux.

  • Trainiere 500+ Modelle 2x schneller mit 70 % weniger VRAM (kein Genauigkeitsverlust)

  • Text-, Diffusions-Visions-, TTS-Audio- und Embedding-Modelle ausführen und trainieren

Cover

Überall bereitstellen

Stelle Modelle sicher aus der Ferne bereit und greife überall per Cloudflare-HTTPS auf Unsloth zu

⭐ Funktionen

Code ausführen + Tool-Aufrufe reparieren

Unsloth Studio lässt LLMs Bash und Python ausführen, nicht nur JavaScript mit Umgehungsberechtigungen. Es sandboxt außerdem Programme wie Claude Artifacts, sodass Modelle Code testen, Dateien erzeugen und Antworten mit echter Berechnung verifizieren können.

Z. B. erstellt Unsloth eine Sandbox, damit GLM-5.2 Code ausführen kann, der als HTML-Vorschau in Canvas angezeigt wird.

Präzise Tool-Aufrufe mit sandboxierter Codeausführung

Websuche verbessert

Unsloths private, unbegrenzte und sichere Websuche besucht tatsächlich Seiten direkt, um relevante Informationen und Daten zu sammeln, und durchsucht nicht nur Website-Zusammenfassungen. Dadurch werden Ausgaben mit deutlich präziseren / tiefergehenden Informationen und Kontext geliefert.

Z. B. suchte Qwen3.5-4B auf über 20 Websites und zitierte Quellen, wobei die Websuche innerhalb seines Denkverlaufs stattfand.

Unsloth als API-Endpunkt

Du kannst lokale LLMs jetzt über Tools wie Claude Code und Codex verwenden, indem du es mit Unsloths API-Endpunkt. Das bedeutet, dass du Qwen- und Gemma-Modelle direkt in diesen Tools mit Unsloths Inferenz ausführen kannst, einschließlich Funktionen wie selbstheilende Tool-Aufrufe, Websuche usw.

Du kannst auch einen Anbieter verbinden wie OpenAI, Anthropic oder vLLM mit Unsloth.

No-Code-Training

PDF, CSV, JSON hochladen Dokumente oder YAML-Konfigurationen und starte das Training sofort auf NVIDIA. Unsloths Kernel optimieren LoRA, FP8, FFT, PT über 500+ Text-, Vision-, TTS-/Audio- und Embedding-Modelle hinweg.

Fine-tune die neuesten LLMs wie Qwen3.5 und NVIDIA Nemotron 3. Multi-GPU funktioniert automatisch, eine neue Version folgt.

Modelle lokal ausführen

GGUF suchen und ausführen und Safetensor-Modelle mit selbstheilender Tool-Aufruf, fortgeschrittene Websuche, automatische Inferenz Einstellungen, Codeausführung (Bash + Python), APIs. Bilder, Dokumente, Audio, Code hochladen.

Modelle nebeneinander vergleichen. Angetrieben von llama.cpp + Hugging Face unterstützt Unsloth Multi-GPU-Inferenz, automatisches Offloading und Anpassen sowie die meisten Modelle.

Data Recipes

Data Recipes wandelt deine Dokumente über einen Graph-Node-Workflow in nutzbare / synthetische Datensätze um. Lade unstrukturierte oder strukturierte Dateien wie PDFs, CSV und JSON hoch. Unsloth Data Recipes, angetrieben von NVIDIA Nemo Data Designer, wandelt Dokumente automatisch in deine gewünschten Formate um.

Beobachtbarkeit

Erhalte volle Transparenz über deine Trainingsläufe und Kontrolle darüber. Verfolge Trainingsverlust, Gradienten-Normen und GPU-Auslastung in Echtzeit und passe alles nach deinen Wünschen an.

Du kannst den Trainingsfortschritt sogar auf anderen Geräten wie deinem Telefon ansehen.

Modelle exportieren / speichern

Jedes Modell exportieren, einschließlich deiner feinabgestimmten Modelle, als Safetensors oder GGUF zur Verwendung mit llama.cpp, vLLM, Ollama, LM Studio und mehr.

Speichert deinen Trainingsverlauf, sodass du Läufe erneut ansehen, erneut exportieren und experimentieren kannst.

Datenschutz zuerst + sicher

Unsloth Studio kann zu 100 % offline und lokal auf deinem Computer verwendet werden. Seine tokenbasierte Authentifizierung, einschließlich verschlüsseltem Passwort und JWT-Access-/Refresh-Flows, hält deine Daten sicher.

Du kannst bereits vorhandene / alte Modelle oder GGUFs verwenden, die zuvor von HF usw. heruntergeladen wurden. Lies die Anweisungen hier.

⚡ Schnellstart

Mit Unsloth Desktop installieren

Der einfachste Weg, Unsloth Studio zu installieren, ist die native Desktop-App. Lade sie für dein Betriebssystem herunter:

Für eine manuelle Installation von Unsloth Studio verwende die folgenden Befehle. Führe denselben Befehl erneut aus, um zu aktualisieren:

MacOS, Linux, WSL:

Windows PowerShell:

Unsloth starten

Unsloth sicher mit HTTPS und Cloudflare starten

NEU! Unsloth bietet jetzt eine sichere Möglichkeit, Unsloth über HTTPS über einen kostenlosen Cloudflare-Tunnel zu starten. Verwende die unten stehende Option (funktioniert unter Windows, Mac und Linux):

Für weitere Details zur Installation und Deinstallation besuche bitte die Unsloth Studio-Installation Abschnitt.

Installation

Google-Colab-Notebook

Wir haben ein kostenloses Google-Colab-Notebook damit du auf Colabs T4-GPUs alle Funktionen von Unsloth erkunden kannst. Du kannst die meisten Modelle bis zu 22B Parametern trainieren und ausführen und für größere Modelle auf eine größere GPU wechseln. Klicke einfach auf 'Run all', und die UI sollte nach der Installation erscheinen.

Sobald die Installation abgeschlossen ist, scrolle zu Unsloth Studio starten und klicke auf Unsloth Studio öffnen in dem links gezeigten weißen Feld:

Scrolle weiter nach unten, um die eigentliche UI zu sehen.

👾 Unsloth Start

Unsloth Start ermöglicht dir die Verbindung Claude Code, Codex von und anderen Agenten mit lokalen Modellen über den unsloth start Befehl.

Starte Unsloth, lade ein Modell, öffne deinen Projektordner und führe dann aus:

Ersetze claude durch einen beliebigen der folgenden Agenten:

Claude Code läuft lokal mit Qwen3.5.
Agent
Befehl

Claude Code

unsloth start claude

OpenAI Codex

unsloth start codex

Hermes-Agent

unsloth start hermes

OpenClaw

unsloth start openclaw

OpenCode

unsloth start opencode

Arbeitsablauf

Hier ist ein typischer Arbeitsablauf von Unsloth Studio, um dir den Einstieg zu erleichtern:

  1. Starte Unsloth über Installationsanweisungen.

  2. Lade ein Modell aus lokalen Dateien oder einer unterstützten Integration.

  3. Importiere Trainingsdaten aus PDFs, CSVs oder JSONL-Dateien oder erstelle einen Datensatz von Grund auf.

  4. Bereinige, verfeinere und erweitere deinen Datensatz in Data Recipes.

  5. Starte das Training mit empfohlenen Voreinstellungen oder passe die Konfiguration selbst an.

  6. Chatte mit dem trainierten Modell und vergleiche seine Ausgaben mit dem Basismodell.

  7. Speichern oder exportieren lokal in den Stack, den du bereits verwendest.

Du kannst unsere einzelnen Deep Dives zu jedem Abschnitt von Unsloth Studio lesen:

FAQ

Sammelt oder speichert Unsloth Daten? Unsloth erfasst keine Nutzungs-Telemetrie. Unsloth sammelt nur die minimalen Hardwareinformationen, die für die Kompatibilität erforderlich sind, wie GPU-Typ und Gerät (z. B. Mac). Unsloth Studio läuft 100 % offline und lokal.

Wie verwende ich ein altes / vorhandenes Modell, das ich zuvor von Hugging Face heruntergeladen habe? Ja, du kannst bereits vorhandene/alte Modelle oder GGUFs verwenden, die du zuvor von Hugging Face usw. heruntergeladen hast. Sie sollten jetzt automatisch von Unsloth erkannt werden, andernfalls lies unsere die Anweisungen hier.

Warum ist die Inferenz in Unsloth manchmal langsamer? Unsloth wird, wie andere lokale Inferenz-Apps, von llama.cpp angetrieben, daher sollten die Geschwindigkeiten größtenteils gleich sein. Manchmal kann Unsloth langsamer sein, weil du Websuche, Codeausführung und selbstheilende Tool-Aufrufe aktiviert hast. All diese Funktionen können deine Inferenz verlangsamen. Wenn der Geschwindigkeitsunterschied auch bei ausgeschalteten Funktionen immer noch langsamer ist, erstelle bitte ein GitHub-Issue!

Unterstützt Unsloth Studio OpenAI-kompatible APIs? Ja, siehe unsere Anleitung zum API-Endpunkt hier.

Steht Unsloth jetzt unter der AGPL-3.0-Lizenz? Unsloth verwendet ein Dual-Lizenzmodell aus Apache 2.0 und AGPL-3.0. Das Kernpaket von Unsloth bleibt lizenziert unter Apache 2.0, während bestimmte optionale Komponenten, wie die Unsloth-Studio-UI, lizenziert sind AGPL-3.0.

Diese Struktur unterstützt die laufende Entwicklung von Unsloth, während das Projekt Open Source bleibt und das breitere Ökosystem weiter wachsen kann.

Unterstützt Unsloth nur LLMs? Nein. Unsloth unterstützt eine Reihe unterstützter Transformers transformer-kompatiblen Modellfamilien, einschließlich Text-, multimodaler Modelle, Text-to-Speech, Audio, Embeddings, und BERT-ähnlicher Modelle.

Kann ich meine eigene Trainingskonfiguration verwenden? Ja. Importiere eine YAML-Konfiguration, und Unsloth füllt die relevanten Einstellungen vor.

Muss man Modelle trainieren, um die UI zu nutzen? Nein, du kannst einfach ein beliebiges GGUF oder Modell herunterladen, ohne ein Modell feinabzustimmen.

Danksagungen

Ein riesiges Dankeschön an NVIDIA und Hugging Face, dass sie Teil unseres Launchs sind. Auch vielen Dank an alle unsere frühen Beta-Tester für Unsloth Studio, wir schätzen eure Zeit und euer Feedback wirklich sehr. Wir möchten außerdem llama.cpp, PyTorch und open model labs dafür danken, dass sie die Infrastruktur bereitgestellt haben, die Unsloth Studio möglich gemacht hat.

Zuletzt aktualisiert

War das hilfreich?