> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/docs.md).

# Unsloth-Dokumentation

Unsloth ist ein Open-Source-Framework zum Ausführen und Trainieren von LLMs.

Unsloth ermöglicht es dir, KI-Modelle über eine Open-Source-UI auf deiner eigenen lokalen Hardware auszuführen und zu trainieren.

Unsere Dokumentation führt dich durch das lokale Ausführen und Trainieren deines eigenen LLM.

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Herunterladen</a><a href="/docs/de/desktop.md#features" class="button secondary" data-icon="sparkles">Funktionen</a><a href="https://github.com/unslothai/unsloth" class="button secondary" data-icon="github">GitHub</a>

<table data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>DeepSeek-V4.1-Flash</strong></td><td>Führe das neue Modell-Update vom 17. Oktober aus!</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F4qwswsAZxmUaTEksSNJJ%2Fdeepseekv4.1.png?alt=media&amp;token=203263d6-e100-4c3f-9dd4-898391874d74">deepseekv4.1.png</a></td><td><a href="/docs/de/modelle/deepseek-v4.1-flash.md">DeepSeek-V4.1-Flash</a></td></tr><tr><td><strong>Qwen3.8-27B</strong></td><td>Qwen3.8-27B in Unsloth ausführen und trainieren.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSQJGLfV6lTdcvKUuBsjC%2Fqwen3.8%20logo.png?alt=media&amp;token=7942746b-409d-4064-8e66-221fceb920dd">qwen3.8 logo.png</a></td><td><a href="/docs/de/modelle/qwen3.8.md">Qwen3.8-27B</a></td></tr><tr><td><strong>Qwen3.8-Flash-Next</strong></td><td>Führe Metas neues SOTA-Open-Model lokal aus.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F02STQ7sMPvXPUVmCanee%2Fqwen%20next%20logo.png?alt=media&amp;token=b451d135-18c0-47e0-8584-ef64c30bc11f">qwen next logo.png</a></td><td><a href="/docs/de/modelle/qwen3.8-next.md">Qwen3.8-Flash-Next</a></td></tr><tr><td><strong>Entscheidungsmodell</strong></td><td>Verwandle jedes Modell in ein Entscheidungsmodell.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAR7yKT6SAX6lxfycVoHb%2Ftrain%20decision%20model%20thumbnail.png?alt=media&amp;token=0f302911-51dc-4d01-bf77-87433ad3490c">train decision model thumbnail.png</a></td><td><a href="/docs/de/grundlagen/trainiere-dein-eigenes-entscheidungsmodell-mit-unsloth.md">Train your own Decision Model</a></td></tr><tr><td><strong>NVIDIA Nemotron 3.5</strong></td><td>Neue 4B- und 74B-Bolt- und Super-VL-Modelle.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F0WXsJqWMrGcNRAP5h4q7%2Fnvidia%20nemotron%203.5%20bolt.png?alt=media&amp;token=15a3c95c-9a2b-4f02-b7ad-ac11070b7a28">nvidia nemotron 3.5 bolt.png</a></td><td><a href="/docs/de/modelle/nemotron-3.5-bolt.md">NVIDIA Nemotron 3.5 Bolt</a></td></tr><tr><td><strong>Qwen-Image-2.1</strong></td><td>Führe das neue Turbo-Bildmodell lokal aus!</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FjBLXH1oRP52poQcN1pOn%2Fqwen%20image%202.1%20logo.png?alt=media&amp;token=ab285b72-146a-4409-b9ee-327fb78cb127">qwen image 2.1 logo.png</a></td><td><a href="/docs/de/modelle/qwen-image-2.1.md">Qwen-Image-2.1</a></td></tr></tbody></table>

### ⚡ Schnellstart

Unsloth unterstützt macOS, Linux, [Windows](/docs/de/loslegen/install/windows-installation.md), [NVIDIA](/docs/de/loslegen/install/pip-install.md), [AMD](/docs/de/loslegen/install/amd.md), Intel- und CPU-Setups. Siehe: [Unsloth-Anforderungen](/docs/de/loslegen/fine-tuning-for-beginners/unsloth-requirements.md). Lade die native Desktop-App für dein Betriebssystem herunter:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)

Oder installiere Unsloth Studio nativ, unsere browserbasierte Web-UI:

{% tabs %}
{% tab title="macOS, Linux, WSL" %}
**Unsloth installieren:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

Verwende denselben Befehl zum Aktualisieren.
{% endtab %}

{% tab title="Windows" %}
**Unsloth installieren:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

Verwende denselben Befehl zum Aktualisieren.
{% endtab %}

{% tab title="Docker" %}
Das [Unsloth-Docker-Image](https://hub.docker.com/r/unsloth/unsloth) `unsloth/unsloth` ist auf Docker verfügbar. [Lies den Leitfaden.](https://unsloth.ai/docs/get-started/install/docker)
{% endtab %}

{% tab title="Homebrew" %}
Unsloth Desktop installieren:

{% code collapsedlinecount="10" %}

```bash
brew install --cask unsloth
```

{% endcode %}

Unsloth Desktop aktualisieren:

```bash
brew upgrade --cask unsloth
```

{% endtab %}

{% tab title="WinGet" %}
Unsloth Desktop installieren:

```powershell
winget install --id UnslothAI.Unsloth -e
```

Unsloth Desktop aktualisieren:

```powershell
winget upgrade --id UnslothAI.Unsloth -e
```

{% endtab %}
{% endtabs %}

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/9b29615ab338f1d1924174468718cfeab406f641" %}
[Complete LLM Directory](/docs/de/modelle/tutorials.md)
{% endcontent-ref %}

{% content-ref url="/pages/44aed34263310d67280841ab6b72ea1e5648761f" %}
[Fine-tuning Guide](/docs/de/loslegen/fine-tuning-llms-guide.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/0d4e311c01cc0577c64d15b8a41f22ba29eab7fd" %}
[Models](/docs/de/loslegen/unsloth-model-catalog.md)
{% endcontent-ref %}

{% content-ref url="/pages/70002e65495a1a44f155c9dabf1fb52b9d84de66" %}
[Unsloth API](/docs/de/grundlagen/api.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

### 👾 Unsloth Start

{% columns %}
{% column width="58.333333333333336%" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md) ermöglicht dir, zu verbinden [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md) und andere Agenten mit lokalen Modellen über den `unsloth start` Befehl zu verbinden.

Starte Unsloth, lade ein Modell, öffne deinen Projektordner und führe dann aus:

```bash
unsloth start claude
```

Ersetze `claude` durch einen der folgenden Agenten:
{% endcolumn %}

{% column width="41.666666666666664%" %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FpXE6kCHjh8qOEaggf94M%2FScreenshot_20260718_122426.png?alt=media&amp;token=a59e4c8c-efdb-451b-b1f8-621955564f6d" alt="" width="563"><figcaption><p>Claude Code, lokal mit Qwen3.5 ausgeführt.</p></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

| Agent                                                              | Befehl                   |
| ------------------------------------------------------------------ | ------------------------ |
| <i class="fa-claude">:claude:</i> Claude Code                      | `unsloth start claude`   |
| <i class="fa-openai">:openai:</i> OpenAI Codex                     | `unsloth start codex`    |
| <i class="fa-vscode">:vscode:</i> Visual Studio Code               | `unsloth start vscode`   |
| <i class="fa-deepseek">:deepseek:</i> DeepSeek Harness             | `unsloth start dsh`      |
| <i class="fa-rectangle-vertical">:rectangle-vertical:</i> OpenCode | `unsloth start opencode` |
| <i class="fa-caduceus">:caduceus:</i> Hermes Agent                 | `unsloth start hermes`   |
| <i class="fa-lobster">:lobster:</i> OpenClaw                       | `unsloth start openclaw` |

### 🦥 Warum Unsloth?

* Wir arbeiten direkt mit den Teams hinter [gpt-oss](https://docs.unsloth.ai/new/gpt-oss-how-to-run-and-fine-tune#unsloth-fixes-for-gpt-oss), [Qwen3](https://www.reddit.com/r/LocalLLaMA/comments/1kaodxu/qwen3_unsloth_dynamic_ggufs_128k_context_bug_fixes/), [Llama 4](https://github.com/ggml-org/llama.cpp/pull/12889), [Mistral](https://huggingface.co/mistralai/Mistral-Medium-3.5-128B/discussions/18), [Gemma 1-3](https://news.ycombinator.com/item?id=39671146) und [Phi-4](https://unsloth.ai/blog/phi4), wo wir **kritische Fehler behoben haben** die die Modellgenauigkeit stark verbessert haben. Andrej Karpathy hat zum Beispiel [unsere Arbeit gelobt](https://x.com/karpathy/status/1765473722985771335).
* Unsloth optimiert lokales Training, Inferenz, Daten und Bereitstellung
* Unsloth unterstützt Inferenz und Training für über 500 Modelle: [Vision](/docs/de/grundlagen/vision-fine-tuning.md), [TTS](/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md), [Embedding](/docs/de/grundlagen/embedding-finetuning.md), [RL](/docs/de/loslegen/reinforcement-learning-rl-guide.md)

### ⭐ Funktionen

Unsloth ermöglicht es dir, Modelle für Text, [Audio](https://unsloth.ai/docs/basics/text-to-speech-tts-fine-tuning), [Embedding](https://unsloth.ai/docs/new/embedding-finetuning), [Vision](https://unsloth.ai/docs/basics/vision-fine-tuning) und mehr auszuführen und zu trainieren. Unsloth bietet viele wichtige Funktionen sowohl für Inferenz als auch für Training:

#### Inferenz

* Führe LLMs, Diffusions-, Embedding- und Audiomodelle aus und trainiere sie: [Qwen3.8](/docs/de/modelle/qwen3.8.md), [Kimi K3](https://unsloth.ai/docs/models/kimi-k3), MiniMax-H3, [Muse Glimmer](https://unsloth.ai/docs/models/muse-glimmer), [DeepSeek-V4](https://unsloth.ai/docs/models/deepseek-v4), [Gemma 4](https://unsloth.ai/docs/models/gemma-4).
* **Agenten & Tools:** Nutze lokale Modelle mit [Claude Code](https://unsloth.ai/docs/basics/claude-code), [Codex](https://unsloth.ai/docs/basics/codex), und [MCP](https://unsloth.ai/docs/basics/mcp), einschließlich Tool-Calling und Codeausführung.
* **Suche & RAG:** Nutze private und unbegrenzte Websuche, Deep Research, Auto-Compaction (rollierendes Kontextfenster) und RAG.
* **Bild und Video:** Führe aus und trainiere [Bild](https://unsloth.ai/docs/basics/diffusion-image) und Video-Diffusions- oder multimodale Modelle
* **Remote & LAN:** Greife von jedem Gerät im [LAN](https://unsloth.ai/docs/basics/lan) oder aus der Ferne über sicheres [Cloudflare](https://unsloth.ai/docs/basics/how-to-serve-local-llms-anywhere-secure-remote-access-with-cloudflare-and-unsloth) HTTPS zu.
* **Verbinden:** Stelle Modelle über eine [OpenAI-kompatible API](https://unsloth.ai/docs/basics/api)bereit. Verbinde außerdem dein ChatGPT/Codex-Abonnement und [Cloud-Anbieter](https://unsloth.ai/docs/integrations/connections)

#### Trainieren & bereitstellen

* **Fine-Tuning:** Trainiere LLMs, Diffusions-, TTS- und Embedding-Modelle 2× schneller mit 70 % weniger VRAM mit [ohne Genauigkeitsverlust](https://unsloth.ai/blog#training)
* **Vollständige Unterstützung:** Unterstützt [Reinforcement Learning](https://unsloth.ai/docs/get-started/reinforcement-learning-rl-guide), LoRA, QLoRA, vollständiges Fine-Tuning, Pretraining, RL, GRPO, DPO und FP8.
* **Exportieren & bereitstellen:** [Exportiere](https://unsloth.ai/docs/new/studio/export) oder stelle Modelle bereit, einschließlich [GGUF](https://unsloth.ai/docs/basics/inference-and-deployment/saving-to-gguf), NVFP4, FP8 und weitere Formate.
* **Datensätze:** Erstelle Datensätze aus PDFs, CSVs, DOCX-Dateien und mehr mit [Datenrezepte](https://unsloth.ai/docs/new/studio/data-recipe).

### **Video-Demo**

{% embed url="<https://www.youtube.com/watch?v=_1hgTTuber4>" %}

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/baf914c5df639b5b868baac27a080b70396d87c2" %}
[Unsloth-Updates](/docs/de/neu/changelog.md)
{% endcontent-ref %}

{% content-ref url="/pages/03532de69dfe0230fe5114e809721d8b7dd74ca6" %}
[Inferenz & Bereitstellung](/docs/de/grundlagen/inference-and-deployment.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/a728a3a28d31267d2a218794d9c5365b9010e404" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md)
{% endcontent-ref %}

{% content-ref url="/pages/abe22dcb3049581e00371a1b82b9e9cf6821a9b0" %}
[Dynamic 3.0 GGUFs](/docs/de/grundlagen/dynamic-3.0-ggufs.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fgit-blob-134302f2507d4313b9575917c9a43b0a0028856c%2Flarge%20sloth%20wave.png?alt=media" alt="" width="188"><figcaption></figcaption></figure>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/docs.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.