> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/docs.md).

# Unsloth-Dokumentation

Unsloth ist ein Open-Source-Framework zum Ausführen und Trainieren von LLMs.

Unsloth ermöglicht es Ihnen, KI-Modelle auf Ihrer eigenen lokalen Hardware über eine Open-Source-Oberfläche auszuführen und zu trainieren.

Unsere Dokumentation führt Sie durch das lokale Ausführen und Trainieren Ihres eigenen LLMs.

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Herunterladen</a><a href="/docs/de/desktop.md#features" class="button secondary" data-icon="sparkles">Funktionen</a><a href="https://github.com/unslothai/unsloth" class="button secondary" data-icon="github">GitHub</a>

<table data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Qwen3.8-27B</strong></td><td>Führen Sie Qwen3.8-27B in Unsloth aus und trainieren Sie es.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSQJGLfV6lTdcvKUuBsjC%2Fqwen3.8%20logo.png?alt=media&amp;token=7942746b-409d-4064-8e66-221fceb920dd">qwen3.8 logo.png</a></td><td><a href="/docs/de/modelle/qwen3.8.md">Qwen3.8-27B</a></td></tr><tr><td><strong>Qwen3.8-Flash-Next</strong></td><td>Neues multimodales MoE-Modell mit Qwen4-Architektur.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FD5XvlMiglB75xLiQQUq8%2Fqwen38%20flash%20new%20logo.png?alt=media&amp;token=cbe972b2-a558-4dbd-9501-a7e2e898df8f">qwen38 flash new logo.png</a></td><td><a href="/docs/de/modelle/qwen3.8-next.md">Qwen3.8-Flash-Next</a></td></tr><tr><td><strong>Lernen Sie Unsloth Desktop kennen</strong></td><td>Die erste Desktop-App zum Ausführen und Trainieren von Modellen.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FyUdniXManojk20Q3M5Lf%2Fintroducing%20unsloth%20desktop%20thumb.png?alt=media&amp;token=5ecd2f25-b996-4749-8242-ffd21b080ae7">introducing unsloth desktop thumb.png</a></td><td><a href="/docs/de/desktop.md">Introducing Unsloth Desktop</a></td></tr><tr><td><strong>GLM-5.3-Flash</strong></td><td>Das neue 320B-Modell, auch bekannt als <code>ox-alpha</code> von Z.ai.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FeHSdHWsGl4rQtUUgSkGj%2Fglm%205.3%20flash.png?alt=media&amp;token=acd21ab7-c5b5-4338-8b23-8d4cf16584f3">glm 5.3 flash.png</a></td><td><a href="/docs/de/modelle/glm-5.3-flash.md">GLM-5.3-Flash</a></td></tr><tr><td><strong>DeepSeek-V4 Vision</strong></td><td>DeepSeeks erstes Vision-Modell. Läuft mit 128 GB RAM.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FYCbdIeMsEQmDJoyii4tl%2Fdeepseek%20v4%20logo.png?alt=media&amp;token=0d1ec333-bcbd-4ecb-8891-5393a1c5bb0a">deepseek v4 logo.png</a></td><td><a href="/docs/de/modelle/deepseek-v4.md">DeepSeek-V4-Flash</a></td></tr><tr><td><strong>GLM-5.3</strong></td><td>Führen Sie das bisher stärkste Open-Model aus.</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FEOLfeTQcmdj4Ofo5jGhS%2Fglm%205.3%20logo.png?alt=media&amp;token=220f0d33-d5fc-4fc1-8152-126bd21f2cde">glm 5.3 logo.png</a></td><td><a href="/docs/de/modelle/glm-5.3.md">GLM-5.3</a></td></tr></tbody></table>

### ⚡ Schnellstart

Unsloth unterstützt MacOS, Linux, [Windows](/docs/de/erste-schritte/install/windows-installation.md), [NVIDIA](/docs/de/erste-schritte/install/pip-install.md), [AMD](/docs/de/erste-schritte/install/amd.md), Intel- und CPU-Setups. Siehe: [Unsloth-Anforderungen](/docs/de/erste-schritte/fine-tuning-for-beginners/unsloth-requirements.md). Laden Sie die native Desktop-App für Ihr Betriebssystem herunter:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)

Oder, wenn Sie die manuelle Installation bevorzugen:

**MacOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows PowerShell:**

```bash
irm https://unsloth.ai/install.ps1 | iex
```

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/9b29615ab338f1d1924174468718cfeab406f641" %}
[Complete LLM Directory](/docs/de/modelle/tutorials.md)
{% endcontent-ref %}

{% content-ref url="/pages/44aed34263310d67280841ab6b72ea1e5648761f" %}
[Fine-tuning Guide](/docs/de/erste-schritte/fine-tuning-llms-guide.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/0d4e311c01cc0577c64d15b8a41f22ba29eab7fd" %}
[Models](/docs/de/erste-schritte/unsloth-model-catalog.md)
{% endcontent-ref %}

{% content-ref url="/pages/70002e65495a1a44f155c9dabf1fb52b9d84de66" %}
[Unsloth API](/docs/de/grundlagen/api.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

### 👾 Unsloth Start

{% columns %}
{% column width="58.333333333333336%" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md) ermöglicht es Ihnen, [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md) und andere Agenten über das `unsloth start` Kommando mit lokalen Modellen zu verbinden.

Starten Sie Unsloth, laden Sie ein Modell, öffnen Sie Ihren Projektordner und führen Sie dann aus:

```bash
unsloth start claude
```

Ersetzen Sie `claude` durch jeden der untenstehenden Agenten:
{% endcolumn %}

{% column width="41.666666666666664%" %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FpXE6kCHjh8qOEaggf94M%2FScreenshot_20260718_122426.png?alt=media&amp;token=a59e4c8c-efdb-451b-b1f8-621955564f6d" alt="" width="563"><figcaption><p>Claude Code, lokal mit Qwen3.5 ausgeführt.</p></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

| Agent                                                              | Befehl                   |
| ------------------------------------------------------------------ | ------------------------ |
| <i class="fa-claude">:claude:</i> Claude Code                      | `unsloth start claude`   |
| <i class="fa-openai">:openai:</i> OpenAI Codex                     | `unsloth start codex`    |
| <i class="fa-deepseek">:deepseek:</i> DeepSeek Harness             | `unsloth start dsh`      |
| <i class="fa-rectangle-vertical">:rectangle-vertical:</i> OpenCode | `unsloth start opencode` |
| <i class="fa-caduceus">:caduceus:</i> Hermes Agent                 | `unsloth start hermes`   |
| <i class="fa-lobster">:lobster:</i> OpenClaw                       | `unsloth start openclaw` |

### 🦥 Warum Unsloth?

* Wir arbeiten direkt mit den Teams hinter [gpt-oss](https://docs.unsloth.ai/new/gpt-oss-how-to-run-and-fine-tune#unsloth-fixes-for-gpt-oss), [Qwen3](https://www.reddit.com/r/LocalLLaMA/comments/1kaodxu/qwen3_unsloth_dynamic_ggufs_128k_context_bug_fixes/), [Llama 4](https://github.com/ggml-org/llama.cpp/pull/12889), [Mistral](https://huggingface.co/mistralai/Mistral-Medium-3.5-128B/discussions/18), [Gemma 1-3](https://news.ycombinator.com/item?id=39671146) und [Phi-4](https://unsloth.ai/blog/phi4)zusammen, wobei wir **kritische Fehler behoben haben** die die Modellgenauigkeit erheblich verbessert haben. Andrej Karpathy hat zum Beispiel [unsere Arbeit gelobt](https://x.com/karpathy/status/1765473722985771335).
* Unsloth vereinfacht lokales Training, Inferenz, Daten und Bereitstellung
* Unsloth unterstützt Inferenz und Training für über 500 Modelle: [Vision](/docs/de/grundlagen/vision-fine-tuning.md), [TTS](/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md), [Embedding](/docs/de/grundlagen/embedding-finetuning.md), [RL](/docs/de/erste-schritte/reinforcement-learning-rl-guide.md)

### ⭐ Funktionen

Unsloth ermöglicht es Ihnen, Modelle für Text, [Audio](https://unsloth.ai/docs/basics/text-to-speech-tts-fine-tuning), [Embedding](https://unsloth.ai/docs/new/embedding-finetuning), [Vision](https://unsloth.ai/docs/basics/vision-fine-tuning) und mehr auszuführen und zu trainieren. Unsloth bietet viele wichtige Funktionen sowohl für Inferenz als auch für Training:

#### Inferenz

* LLMs, Diffusions-, Embedding- und Audiomodelle ausführen und trainieren: [Qwen3.8](/docs/de/modelle/qwen3.8.md), [Kimi K3](https://unsloth.ai/docs/models/kimi-k3), MiniMax-H3, [Muse Glimmer](https://unsloth.ai/docs/models/muse-glimmer), [DeepSeek-V4](https://unsloth.ai/docs/models/deepseek-v4), [Gemma 4](https://unsloth.ai/docs/models/gemma-4).
* **Agenten & Tools:** Lokale Modelle verwenden mit [Claude Code](https://unsloth.ai/docs/basics/claude-code), [Codex](https://unsloth.ai/docs/basics/codex), und [MCP](https://unsloth.ai/docs/basics/mcp), einschließlich Tool-Aufruf und Codeausführung.
* **Suche & RAG:** Nutzen Sie private und unbegrenzte Websuche, Deep Research, Auto-Compaction (rollierendes Kontextfenster) und RAG.
* **Bild und Video:** Ausführen und trainieren [Bild-](https://unsloth.ai/docs/basics/diffusion-image) und Video-Diffusions- oder multimodale Modelle
* **Remote & LAN:** Greifen Sie von jedem Gerät im [LAN](https://unsloth.ai/docs/basics/lan) oder per Fernzugriff über sicheres [Cloudflare](https://unsloth.ai/docs/basics/how-to-serve-local-llms-anywhere-secure-remote-access-with-cloudflare-and-unsloth) HTTPS auf Ihre lokalen Modelle zu.
* **Verbinden:** Stellen Sie Modelle über eine [OpenAI-kompatible API](https://unsloth.ai/docs/basics/api)bereit. Verbinden Sie außerdem Ihr ChatGPT/Codex-Abonnement und [Cloud-Anbieter](https://unsloth.ai/docs/integrations/connections)

#### Trainieren & Bereitstellen

* **Fine-Tuning:** Trainieren Sie LLMs, Diffusions-, TTS- und Embedding-Modelle 2× schneller mit 70 % weniger VRAM bei [keinem Genauigkeitsverlust](https://unsloth.ai/blog#training)
* **Vollständige Unterstützung:** Unterstützt [Reinforcement Learning](https://unsloth.ai/docs/get-started/reinforcement-learning-rl-guide), LoRA, QLoRA, vollständiges Fine-Tuning, Pretraining, RL, GRPO, DPO und FP8.
* **Exportieren & Bereitstellen:** [Exportieren](https://unsloth.ai/docs/new/studio/export) oder bereitstellen von Modellen einschließlich [GGUF](https://unsloth.ai/docs/basics/inference-and-deployment/saving-to-gguf), NVFP4, FP8 und weiteren Formaten.
* **Datensätze:** Erstellen Sie Datensätze aus PDFs, CSVs, DOCX-Dateien und mehr mit [Data Recipes](https://unsloth.ai/docs/new/studio/data-recipe).

### **Neueste Modelle**

<table data-column-title-hidden data-card-wrap="false" data-view="cards"><thead><tr><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><h4>Qwen3.8</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSQJGLfV6lTdcvKUuBsjC%2Fqwen3.8%20logo.png?alt=media&amp;token=7942746b-409d-4064-8e66-221fceb920dd">qwen3.8 logo.png</a></td><td><a href="/docs/de/modelle/qwen3.8.md">Qwen3.8-27B</a></td></tr><tr><td><h4>Meta Muse Glimmer</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fnbdjif7yfvvH1j6aBmpS%2FMuse%20glimmer%20logo%20final.png?alt=media&amp;token=5031f9dc-c257-4488-95be-856e1ea31ec8">Muse glimmer logo final.png</a></td><td></td></tr><tr><td><h4>Kimi K3</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FwCzVjy7Q6EQLthkUuZqk%2Fkimik3%20logo.png?alt=media&amp;token=945dfb54-9c25-4539-9138-e23f841ca168">kimik3 logo.png</a></td><td><a href="/docs/de/modelle/kimi-k3.md">Kimi K3 </a></td></tr><tr><td><h4>DeepSeek V4</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FYCbdIeMsEQmDJoyii4tl%2Fdeepseek%20v4%20logo.png?alt=media&amp;token=0d1ec333-bcbd-4ecb-8891-5393a1c5bb0a">deepseek v4 logo.png</a></td><td><a href="/docs/de/modelle/deepseek-v4.md">DeepSeek-V4-Flash</a></td></tr><tr><td><h4>Qwen3.6</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fdy7z03AUFzXHKqqOY7kC%2Fqwen3.6%20logo.png?alt=media&amp;token=a894c047-a9ea-4f9c-824a-be86ec81f54d">qwen3.6 logo.png</a></td><td><a href="/docs/de/modelle/qwen3.6.md">Qwen3.6</a></td></tr><tr><td><h4>GLM-5.2</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FmbYXj0v0p5zbeESPDYUr%2Fglm52.png?alt=media&amp;token=0cb4ae58-d249-403a-9fb5-72e9e93f8da9">glm52.png</a></td><td><a href="/docs/de/modelle/glm-5.2.md">GLM-5.2</a></td></tr><tr><td><h4>Gemma 4</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FkEjWOJqBWCtIN9Cg6CdI%2FGemma%204%20landscape.png?alt=media&amp;token=57d3f596-dae8-4eab-80e6-0847794ffc8d">Gemma 4 landscape.png</a></td><td><a href="/docs/de/modelle/gemma-4.md">Gemma 4</a></td></tr><tr><td><h4>MiniMax M3</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FsaXyQq0XeFuudTK5ZEGw%2Fminimaxm3.png?alt=media&amp;token=4af28954-abd2-4163-a0fe-ed4e42e25d2f">minimaxm3.png</a></td><td><a href="/docs/de/modelle/minimax-m3.md">MiniMax M3</a></td></tr><tr><td><h4>DiffusionGemma</h4></td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FQNex1tTcNU8rPfsa1Pja%2Fdiffusiongemma%20logo.png?alt=media&amp;token=37e9fa55-c003-4877-9519-d1687ce48322">diffusiongemma logo.png</a></td><td><a href="/docs/de/modelle/diffusiongemma.md">DiffusionGemma</a></td></tr></tbody></table>

### **Video-Demo**

{% embed url="<https://www.youtube.com/watch?v=_1hgTTuber4>" %}

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/baf914c5df639b5b868baac27a080b70396d87c2" %}
[Unsloth-Updates](/docs/de/neu/changelog.md)
{% endcontent-ref %}

{% content-ref url="/pages/03532de69dfe0230fe5114e809721d8b7dd74ca6" %}
[Inferenz & Bereitstellung](/docs/de/grundlagen/inference-and-deployment.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/a728a3a28d31267d2a218794d9c5365b9010e404" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md)
{% endcontent-ref %}

{% content-ref url="/pages/abe22dcb3049581e00371a1b82b9e9cf6821a9b0" %}
[Dynamic 3.0 GGUFs](/docs/de/grundlagen/dynamic-3.0-ggufs.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fgit-blob-134302f2507d4313b9575917c9a43b0a0028856c%2Flarge%20sloth%20wave.png?alt=media" alt="" width="188"><figcaption></figcaption></figure>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/docs.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.