> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/docs.md).

# Unsloth-Dokumentation

Unsloth ist ein Open-Source-Framework zum Ausführen und Trainieren von LLMs.

Mit Unsloth kannst du KI-Modelle über eine Open-Source-Benutzeroberfläche auf deiner eigenen lokalen Hardware ausführen und trainieren.

Unsere Dokumentation zeigt dir, wie du dein eigenes LLM lokal ausführst und trainierst.

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Herunterladen</a><a href="https://unsloth.ai/docs/de/desktop.md#features" class="button secondary" data-icon="sparkles">Funktionen</a><a href="https://github.com/unslothai/unsloth" class="button secondary" data-icon="github">GitHub</a>

<table data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Inkling 2 Mini</strong></td><td>Führe das leistungsstärkste 26B-MoE-Modell aus!</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FZffJ9lXYY27Dr2uf1ZbB%2Finkling%202%20mini%20logo.png?alt=media&amp;token=5dfa4bd7-f87f-40fb-bce2-894fe6f197b7">inkling 2 mini logo.png</a></td><td><a href="https://unsloth.ai/docs/de/modelle/inkling-2-mini.md">Inkling 2 Mini</a></td></tr><tr><td><strong>DeepSeek-V4.1-Flash</strong></td><td>Führe das neue Modellupdate vom 17. Oktober aus!</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F4qwswsAZxmUaTEksSNJJ%2Fdeepseekv4.1.png?alt=media&amp;token=203263d6-e100-4c3f-9dd4-898391874d74">deepseekv4.1.png</a></td><td><a href="https://unsloth.ai/docs/de/modelle/deepseek-v4.1-flash.md">DeepSeek-V4.1-Flash</a></td></tr><tr><td><strong>Qwen3.8-27B</strong></td><td>Führe Qwen3.8-27B in Unsloth aus und trainiere es.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSQJGLfV6lTdcvKUuBsjC%2Fqwen3.8%20logo.png?alt=media&amp;token=7942746b-409d-4064-8e66-221fceb920dd">qwen3.8 logo.png</a></td><td><a href="https://unsloth.ai/docs/de/modelle/qwen3.8.md">Qwen3.8-27B</a></td></tr><tr><td><strong>Qwen3.8-Flash-Next</strong></td><td>Führe Qwen Flash mit unserem neuen Update vom 4. November aus!</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F02STQ7sMPvXPUVmCanee%2Fqwen%20next%20logo.png?alt=media&amp;token=b451d135-18c0-47e0-8584-ef64c30bc11f">qwen next logo.png</a></td><td><a href="https://unsloth.ai/docs/de/modelle/qwen3.8-next.md">Qwen3.8-Flash-Next</a></td></tr><tr><td><strong>Dynamic V3.1</strong></td><td>Unsere neuen Dynamic-V3.1-Quants sind da!</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F7dk3MsSTYfl4Alk4obie%2Fdynamic%20v3.1.png?alt=media&amp;token=797afa8e-efbe-4368-802d-44616ef61e1e">dynamic v3.1.png</a></td><td><a href="https://unsloth.ai/docs/de/grundlagen/dynamic-3.0-ggufs.md">Dynamic 3.0 GGUFs</a></td></tr><tr><td><strong>Browsersteuerung</strong></td><td>Lokale LLMs können jetzt deinen Browser steuern!</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FHg3Knjk1GznF8V6R39wk%2Ffour_grid_2x2.gif?alt=media&amp;token=008f7dab-7e91-43cb-a7bd-a8e3bfec29d5">four_grid_2x2.gif</a></td><td><a href="https://unsloth.ai/docs/de/grundlagen/browser-use.md">Browser Use</a></td></tr></tbody></table>

### ⚡ Schnellstart

Unsloth unterstützt macOS, Linux, [Windows](https://unsloth.ai/docs/de/loslegen/install/windows-installation.md), [NVIDIA](https://unsloth.ai/docs/de/loslegen/install/pip-install.md), [AMD](https://unsloth.ai/docs/de/loslegen/install/amd.md), Intel- und CPU-Konfigurationen. Siehe: [Unsloth-Anforderungen](https://unsloth.ai/docs/de/loslegen/fine-tuning-for-beginners/unsloth-requirements.md). Lade die native Desktop-App für dein Betriebssystem herunter:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)

Oder installiere Unsloth Studio nativ, unsere browserbasierte Weboberfläche:

{% tabs %}
{% tab title="macOS, Linux, WSL" %}
**Unsloth installieren:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

Verwende zum Aktualisieren denselben Befehl.
{% endtab %}

{% tab title="Windows" %}
**Unsloth installieren:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

Verwende zum Aktualisieren denselben Befehl.
{% endtab %}

{% tab title="Docker" %}
Das [Unsloth-Docker-Image](https://hub.docker.com/r/unsloth/unsloth) `unsloth/unsloth` ist auf Docker verfügbar. [Anleitung lesen.](https://unsloth.ai/docs/get-started/install/docker)
{% endtab %}

{% tab title="Homebrew" %}
Unsloth Desktop installieren:

{% code collapsedlinecount="10" %}

```bash
brew install --cask unsloth
```

{% endcode %}

Unsloth Desktop aktualisieren:

```bash
brew upgrade --cask unsloth
```

{% endtab %}

{% tab title="WinGet" %}
Unsloth Desktop installieren:

```powershell
winget install --id UnslothAI.Unsloth -e
```

Unsloth Desktop aktualisieren:

```powershell
winget upgrade --id UnslothAI.Unsloth -e
```

{% endtab %}
{% endtabs %}

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/9b29615ab338f1d1924174468718cfeab406f641" %}
[Complete LLM Directory](https://unsloth.ai/docs/de/modelle/tutorials.md)
{% endcontent-ref %}

{% content-ref url="/pages/44aed34263310d67280841ab6b72ea1e5648761f" %}
[Fine-tuning Guide](https://unsloth.ai/docs/de/loslegen/fine-tuning-llms-guide.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/0d4e311c01cc0577c64d15b8a41f22ba29eab7fd" %}
[Models](https://unsloth.ai/docs/de/loslegen/unsloth-model-catalog.md)
{% endcontent-ref %}

{% content-ref url="/pages/70002e65495a1a44f155c9dabf1fb52b9d84de66" %}
[Unsloth API](https://unsloth.ai/docs/de/grundlagen/api.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

### 👾 Unsloth Start

{% columns %}
{% column width="58.333333333333336%" %}
[Unsloth Start](https://unsloth.ai/docs/de/integrationen/unsloth-start.md) ermöglicht dir, [Claude Code](https://unsloth.ai/docs/de/grundlagen/claude-code.md), [Codex](https://unsloth.ai/docs/de/grundlagen/codex.md) und andere Agenten über den Befehl `unsloth start` mit lokalen Modellen zu verbinden.

Starte Unsloth, lade ein Modell und öffne deinen Projektordner. Führe anschließend Folgendes aus:

```bash
unsloth start claude
```

Ersetze `claude` durch einen der folgenden Agenten:
{% endcolumn %}

{% column width="41.666666666666664%" %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FpXE6kCHjh8qOEaggf94M%2FScreenshot_20260718_122426.png?alt=media&amp;token=a59e4c8c-efdb-451b-b1f8-621955564f6d" alt="" width="563"><figcaption><p>Claude Code mit Qwen3.5 lokal ausführen.</p></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

| Agent                                                              | Befehl                   |
| ------------------------------------------------------------------ | ------------------------ |
| <i class="fa-claude">:claude:</i> Claude Code                      | `unsloth start claude`   |
| <i class="fa-openai">:openai:</i> OpenAI Codex                     | `unsloth start codex`    |
| <i class="fa-deepseek">:deepseek:</i> DeepSeek Harness             | `unsloth start dsh`      |
| <i class="fa-vscode">:vscode:</i> Visual Studio Code               | `unsloth start vscode`   |
| <i class="fa-rectangle-vertical">:rectangle-vertical:</i> OpenCode | `unsloth start opencode` |
| <i class="fa-caduceus">:caduceus:</i> Hermes Agent                 | `unsloth start hermes`   |
| <i class="fa-lobster">:lobster:</i> OpenClaw                       | `unsloth start openclaw` |

### 🦥 Warum Unsloth?

* Wir arbeiten direkt mit den Teams hinter [gpt-oss](https://docs.unsloth.ai/new/gpt-oss-how-to-run-and-fine-tune#unsloth-fixes-for-gpt-oss), [Qwen3](https://www.reddit.com/r/LocalLLaMA/comments/1kaodxu/qwen3_unsloth_dynamic_ggufs_128k_context_bug_fixes/), [Llama 4](https://github.com/ggml-org/llama.cpp/pull/12889), [Mistral](https://huggingface.co/mistralai/Mistral-Medium-3.5-128B/discussions/18), [Gemma 1-3](https://news.ycombinator.com/item?id=39671146) und [Phi-4](https://unsloth.ai/blog/phi4)zusammen. Dabei haben wir **kritische Fehler behoben** , wodurch sich die Modellgenauigkeit erheblich verbessert hat. So hat Andrej Karpathy beispielsweise unsere Arbeit [gelobt](https://x.com/karpathy/status/1765473722985771335).
* Unsloth vereinfacht lokales Training, Inferenz, Datenverarbeitung und Deployment
* Unsloth unterstützt Inferenz und Training für über 500 Modelle: [Bildverarbeitung](https://unsloth.ai/docs/de/grundlagen/vision-fine-tuning.md), [Sprachsynthese](https://unsloth.ai/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md), [Einbettungen](https://unsloth.ai/docs/de/grundlagen/embedding-finetuning.md), [RL](https://unsloth.ai/docs/de/loslegen/reinforcement-learning-rl-guide.md)

### ⭐ Funktionen

Mit Unsloth können Sie Modelle für Text, [Audio](https://unsloth.ai/docs/basics/text-to-speech-tts-fine-tuning), [Embeddings](https://unsloth.ai/docs/new/embedding-finetuning), [Bilderkennung](https://unsloth.ai/docs/basics/vision-fine-tuning) und mehr ausführen und trainieren. Unsloth bietet zahlreiche wichtige Funktionen für Inferenz und Training:

#### Inferenz

* LLMs, Diffusions-, Embedding- und Audiomodelle ausführen und trainieren: [Qwen3.8](https://unsloth.ai/docs/de/modelle/qwen3.8.md), [Kimi K3](https://unsloth.ai/docs/models/kimi-k3), MiniMax-H3, [Muse Glimmer](https://unsloth.ai/docs/models/muse-glimmer), [DeepSeek-V4](https://unsloth.ai/docs/models/deepseek-v4), [Gemma 4](https://unsloth.ai/docs/models/gemma-4).
* **Agenten und Tools:** Lokale Modelle verwenden mit [Claude Code](https://unsloth.ai/docs/basics/claude-code), [Codex](https://unsloth.ai/docs/basics/codex)und [MCP](https://unsloth.ai/docs/basics/mcp), einschließlich Tool-Aufrufen und Codeausführung.
* **Suche und RAG:** Private, unbegrenzte Websuche, tiefgehende Recherche, automatische Kontextkomprimierung (rollierendes Kontextfenster) und RAG verwenden.
* **Browsernutzung:** [Websites aufrufen](https://unsloth.ai/docs/de/grundlagen/browser-use.md), Formulare ausfüllen, PDFs lesen und Dateien mit einem lokalen Modell bearbeiten.
* **Bilder und Videos:** Ausführen und Trainieren von [Bild-](https://unsloth.ai/docs/basics/diffusion-image) und Video-Diffusions- oder multimodalen Modellen
* **Remotezugriff und LAN:** Auf Ihre lokalen Modelle von jedem Gerät im [LAN](https://unsloth.ai/docs/basics/lan) oder aus der Ferne über sicheres [Cloudflare](https://unsloth.ai/docs/basics/how-to-serve-local-llms-anywhere-secure-remote-access-with-cloudflare-and-unsloth) HTTPS zugreifen.
* **Verbinden:** Modelle über eine [OpenAI-kompatible API](https://unsloth.ai/docs/basics/api)bereitstellen. Außerdem können Sie Ihr ChatGPT-/Codex-Abonnement und [Cloud-Anbieter](https://unsloth.ai/docs/integrations/connections)
* **Sandboxing:** [Steuern, auf welche Dateien Ihr Modell zugreifen kann,](https://unsloth.ai/docs/new/studio/sandboxing-in-unsloth) wenn es Befehle ausführt.

#### Trainieren und bereitstellen

* **Fine-Tuning:** LLMs, Diffusions-, TTS- und Embedding-Modelle mit [doppelter Geschwindigkeit und 70 % weniger VRAM ohne Genauigkeitsverlust](https://unsloth.ai/blog#training)
* **Vollständige Unterstützung:** Unterstützt [Reinforcement Learning](https://unsloth.ai/docs/get-started/reinforcement-learning-rl-guide), LoRA, QLoRA, vollständiges Fine-Tuning, Pretraining, RL, GRPO, DPO und FP8.
* **Exportieren und bereitstellen:** [Exportieren](https://unsloth.ai/docs/new/studio/export) oder Modelle bereitstellen – unter anderem mit [GGUF](https://unsloth.ai/docs/basics/inference-and-deployment/saving-to-gguf), NVFP4, FP8 und weiteren Formaten.
* **Datensätze:** Erstellen Sie Datensätze aus PDFs, CSVs, DOCX-Dateien und mehr mit [Data Recipes](https://unsloth.ai/docs/new/studio/data-recipe).

### **Videodemonstration**

{% embed url="<https://www.youtube.com/watch?v=_1hgTTuber4>" %}

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/baf914c5df639b5b868baac27a080b70396d87c2" %}
[Unsloth-Updates](https://unsloth.ai/docs/de/neu/changelog.md)
{% endcontent-ref %}

{% content-ref url="/pages/03532de69dfe0230fe5114e809721d8b7dd74ca6" %}
[Inferenz & Bereitstellung](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/a728a3a28d31267d2a218794d9c5365b9010e404" %}
[Unsloth Start](https://unsloth.ai/docs/de/integrationen/unsloth-start.md)
{% endcontent-ref %}

{% content-ref url="/pages/abe22dcb3049581e00371a1b82b9e9cf6821a9b0" %}
[Dynamic 3.0 GGUFs](https://unsloth.ai/docs/de/grundlagen/dynamic-3.0-ggufs.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fgit-blob-134302f2507d4313b9575917c9a43b0a0028856c%2Flarge%20sloth%20wave.png?alt=media" alt="" width="188"><figcaption></figcaption></figure>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/docs.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
