🦥Unsloth-Dokumentation

Unsloth ermöglicht es dir, KI-Modelle auf deiner eigenen lokalen Hardware über eine Open-Source-UI auszuführen und zu trainieren.

Unsere Dokus führen dich durch das lokale Ausführen und Trainieren deines eigenen LLMs.

HerunterladenFunktionenGitHub

Entscheidungsmodell

Wandle jedes Modell in ein Entscheidungsmodell um.

Qwen3.8-27B

Führe Qwen3.8-27B in Unsloth aus und trainiere es.

EmbeddingGemma 2

Googles neuer multimodaler Embedding-Modus.

Qwen-Image-2.1

Führe das 7B Text-zu-Bild-Modell lokal aus!

Qwen3.8-Flash-Next

Neues multimodales MoE-Modell mit Qwen4-Architektur.

Lerne Unsloth Desktop kennen

Die erste Desktop-App zum Ausführen und Trainieren von Modellen.

⚡ Schnellstart

Unsloth unterstützt MacOS, Linux, Windows, NVIDIA, AMD , Intel und CPU-Setups. Siehe: Unsloth-Anforderungen. Lade die native Desktop-App für dein Betriebssystem herunter:

Unsloth Desktop herunterladen

• Für macOS herunterladen

• Für Windows herunterladen

• Für Linux herunterladen

Oder installiere Unsloth Studio nativ, unsere browserbasierte Web-UI:

curl -fsSL https://unsloth.ai/install.sh | sh

irm https://unsloth.ai/install.ps1 | iex

brew install --cask unsloth

brew upgrade --cask unsloth

winget install --id UnslothAI.Unsloth -e

winget upgrade --id UnslothAI.Unsloth -e

👾 Unsloth Start

Unsloth Start ermöglicht dir, dich zu verbinden Claude Code, Codex und andere Agenten mit lokalen Modellen über den unsloth start Befehl.

Starte Unsloth, lade ein Modell, öffne deinen Projektordner und führe dann aus:

Ersetze claude mit einem der folgenden Agenten:

🦥 Warum Unsloth?

• Wir arbeiten direkt mit den Teams hinter gpt-oss, Qwen3, Llama 4, Mistral, Gemma 1-3 und Phi-4, wobei wir kritische Fehler behoben haben die die Modellgenauigkeit erheblich verbessert haben. Andrej Karpathy hat zum Beispiel unsere Arbeit gelobt.

• Unsloth vereinfacht lokales Training, Inferenz, Daten und Deployment

• Unsloth unterstützt Inferenz und Training für über 500 Modelle: Vision, TTS, Embedding, RL

⭐ Funktionen

Unsloth ermöglicht es dir, Modelle für Text, Audio, Embedding, Vision und mehr auszuführen und zu trainieren. Unsloth bietet viele wichtige Funktionen sowohl für Inferenz als auch für Training:

Inferenz

• Führe LLMs, Diffusion, Embedding- und Audio-Modelle aus und trainiere sie: Qwen3.8, Kimi K3, MiniMax-H3, Muse Glimmer, DeepSeek-V4, Gemma 4.

• Agenten & Tools: Verwende lokale Modelle mit Claude Code, Codexund MCPeinschließlich Tool-Calling und Code-Ausführung.

• Suche & RAG: Nutze private und unbegrenzte Websuche, Deep Research, Auto-Compaction (rollendes Kontextfenster) und RAG.

• Bild und Video: Ausführen und trainieren Bild- und Video-Diffusions- oder multimodale Modelle

• Remote & LAN: Greife von jedem Gerät auf LAN auf deine lokalen Modelle zu oder aus der Ferne über sicheres Cloudflare HTTPS zu.

• Verbinden: Stelle Modelle über eine OpenAI-kompatible API. Verbinde außerdem dein ChatGPT/Codex-Abonnement und Cloud-Anbieter

Trainieren & Bereitstellen

• Fine-Tuning: Trainiere LLMs-, Diffusions-, TTS- und Embedding-Modelle 2× schneller mit 70 % weniger VRAM mit keinem Genauigkeitsverlust

• Vollständige Unterstützung: Unterstützt Reinforcement Learning, LoRA, QLoRA, vollständiges Fine-Tuning, Pretraining, RL, GRPO, DPO und FP8.

• Exportieren & Bereitstellen: Exportiere oder stelle Modelle bereit, einschließlich GGUF, NVFP4, FP8 und weiteren Formaten.

• Datensätze: Erstelle Datensätze aus PDFs, CSVs, DOCX-Dateien und mehr mit Data Recipes.

Neueste Modelle

Qwen3.8

Meta Muse Glimmer

Kimi K3

DeepSeek V4

Qwen3.6

GLM-5.2

Gemma 4

MiniMax M3

DiffusionGemma

Video-Demo