> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/docs.md).

# Unsloth-Dokumentation

Unsloth ermöglicht es dir, KI-Modelle auf deiner eigenen lokalen Hardware über eine Open-Source-Oberfläche auszuführen und zu trainieren.

Unsere Dokumentation führt dich durch das lokale Ausführen und Trainieren deines eigenen LLM.

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth herunterladen</a><a href="/pages/9448fa7cdec1412b0985dc79abf171be76954588#features" class="button secondary" data-icon="sparkles">Funktionen</a><a href="https://github.com/unslothai/unsloth" class="button secondary" data-icon="github">GitHub</a>

<table data-card-size="large" data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><h4>Wir stellen Unsloth Desktop vor</h4></td><td>Die erste Desktop-App zum Ausführen und Trainieren von LLMs und Diffusionsmodellen.</td><td><a href="/files/0b36d843a92fb658bca1072a17cd8147bcf465a3">/files/0b36d843a92fb658bca1072a17cd8147bcf465a3</a></td><td><a href="/pages/9448fa7cdec1412b0985dc79abf171be76954588">/pages/9448fa7cdec1412b0985dc79abf171be76954588</a></td></tr><tr><td><h4>Qwen3.8-27B ist da!</h4></td><td>Führe Qwen3.8-27B und Qwen3.8-2.4T in Unsloth aus!</td><td><a href="/files/23e6cfa61ec3d50e3bae2f924bbbb37f04654d38">/files/23e6cfa61ec3d50e3bae2f924bbbb37f04654d38</a></td><td><a href="/pages/5695d6b6dec2df015f4427f80047e860ea228616">/pages/5695d6b6dec2df015f4427f80047e860ea228616</a></td></tr></tbody></table>

<table data-view="cards" data-full-width="false"><thead><tr><th></th><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Dynamische V3.0 GGUFs</strong></td><td>Neue dynamische 3.0 Unsloth-Quantisierungen für Qwen3.8.</td><td><a href="/files/42fa5a5311d6d314563d40f4cb20439855cec698">/files/42fa5a5311d6d314563d40f4cb20439855cec698</a></td><td><a href="/pages/abe22dcb3049581e00371a1b82b9e9cf6821a9b0">/pages/abe22dcb3049581e00371a1b82b9e9cf6821a9b0</a></td></tr><tr><td><strong>Meta Muse Glimmer</strong></td><td>Das neue offene 30B-Modell von Meta.</td><td><a href="/files/a63cad54a95bf6e82a732244ec7eafb759f26b5c">/files/a63cad54a95bf6e82a732244ec7eafb759f26b5c</a></td><td><a href="/pages/905dffb7435b8aae6f540021fb352ca634402d1c">/pages/905dffb7435b8aae6f540021fb352ca634402d1c</a></td></tr><tr><td><strong>DeepSeek-V4-Flash-0731</strong></td><td>Das neue 284B-Modell, veröffentlicht am 31. Juli.</td><td><a href="/files/f2d2101fecd94d64f4cacca8e427b39c68f6a0ea">/files/f2d2101fecd94d64f4cacca8e427b39c68f6a0ea</a></td><td><a href="/pages/57db3350b759d3dda1134db7bb3461c7a42ecabf">/pages/57db3350b759d3dda1134db7bb3461c7a42ecabf</a></td></tr></tbody></table>

### ⚡ Schnellstart

Unsloth unterstützt MacOS, Linux, [Windows](/docs/de/erste-schritte/install/windows-installation.md), [NVIDIA](/docs/de/erste-schritte/install/pip-install.md), [AMD](/docs/de/erste-schritte/install/amd.md), Intel- und CPU-Setups. Siehe: [Unsloth-Anforderungen](/docs/de/erste-schritte/fine-tuning-for-beginners/unsloth-requirements.md). Lade die native Desktop-App für dein Betriebssystem herunter:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)

Oder, wenn du die manuelle Installation bevorzugst:

**MacOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows PowerShell:**

```bash
irm https://unsloth.ai/install.ps1 | iex
```

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/9b29615ab338f1d1924174468718cfeab406f641" %}
[Complete LLM Directory](/docs/de/modelle/tutorials.md)
{% endcontent-ref %}

{% content-ref url="/pages/44aed34263310d67280841ab6b72ea1e5648761f" %}
[Fine-tuning Guide](/docs/de/erste-schritte/fine-tuning-llms-guide.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/0d4e311c01cc0577c64d15b8a41f22ba29eab7fd" %}
[Models](/docs/de/erste-schritte/unsloth-model-catalog.md)
{% endcontent-ref %}

{% content-ref url="/pages/70002e65495a1a44f155c9dabf1fb52b9d84de66" %}
[Unsloth API](/docs/de/grundlagen/api.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

Dann öffne `http://127.0.0.1:8888` (oder deine spezifische URL) in deinem Browser.

### 👾 Unsloth Start

{% columns %}
{% column width="58.333333333333336%" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md) ermöglicht dir die Verbindung [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md) und andere Agenten mit lokalen Modellen über den `unsloth start` Befehl.

Starte Unsloth, lade ein Modell, öffne deinen Projektordner und führe dann aus:

```bash
unsloth start claude
```

Ersetze `claude` durch einen der folgenden Agenten:
{% endcolumn %}

{% column width="41.666666666666664%" %}

<figure><img src="/files/71dc8d04c5322ed18a0af5f03d72f1ec3f286b24" alt="" width="563"><figcaption><p>Claude Code, das lokal mit Qwen3.5 läuft.</p></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

| Agent                                                              | Befehl                   |
| ------------------------------------------------------------------ | ------------------------ |
| <i class="fa-claude">:claude:</i> Claude Code                      | `unsloth start claude`   |
| <i class="fa-openai">:openai:</i> OpenAI Codex                     | `unsloth start codex`    |
| <i class="fa-caduceus">:caduceus:</i> Hermes-Agent                 | `unsloth start hermes`   |
| <i class="fa-lobster">:lobster:</i> OpenClaw                       | `unsloth start openclaw` |
| <i class="fa-rectangle-vertical">:rectangle-vertical:</i> OpenCode | `unsloth start opencode` |

### 🦥 Warum Unsloth?

* Wir arbeiten direkt mit den Teams hinter [gpt-oss](https://docs.unsloth.ai/new/gpt-oss-how-to-run-and-fine-tune#unsloth-fixes-for-gpt-oss), [Qwen3](https://www.reddit.com/r/LocalLLaMA/comments/1kaodxu/qwen3_unsloth_dynamic_ggufs_128k_context_bug_fixes/), [Llama 4](https://github.com/ggml-org/llama.cpp/pull/12889), [Mistral](https://huggingface.co/mistralai/Mistral-Medium-3.5-128B/discussions/18), [Gemma 1-3](https://news.ycombinator.com/item?id=39671146) und [Phi-4](https://unsloth.ai/blog/phi4), wobei wir **kritische Fehler behoben haben** die die Modellgenauigkeit deutlich verbessert haben. Andrej Karpathy hat zum Beispiel [unsere Arbeit gelobt](https://x.com/karpathy/status/1765473722985771335).
* Unsloth vereinfacht lokales Training, Inferenz, Daten und Bereitstellung
* Unsloth unterstützt Inferenz und Training für über 500 Modelle: [Vision](/docs/de/grundlagen/vision-fine-tuning.md), [TTS](/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md), [Embedding](/docs/de/grundlagen/embedding-finetuning.md), [RL](/docs/de/erste-schritte/reinforcement-learning-rl-guide.md)

### ⭐ Funktionen

Unsloth ermöglicht dir, Modelle für Text auszuführen und zu trainieren, [Audio](https://unsloth.ai/docs/basics/text-to-speech-tts-fine-tuning), [Embedding](https://unsloth.ai/docs/new/embedding-finetuning), [Vision](https://unsloth.ai/docs/basics/vision-fine-tuning) und mehr. Unsloth bietet viele wichtige Funktionen sowohl für Inferenz als auch für Training:

#### Inferenz

* [Selbstheilende Tool-Aufrufe](/docs/de/neu/studio/chat.md#auto-healing-tool-calling) / Websuche und Nutzung [Unsloth als API](/docs/de/grundlagen/api.md).
* Verbinde deine lokalen Modelle mit jedem beliebigen Agenten: [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md), [Hermes](/docs/de/integrationen/hermes-agent.md) und mehr.
* Suche, lade herunter und starte jedes Modell wie GGUFs, LoRA-Adapter, Safetensors.
* [Automatische Inferenzparameter](/docs/de/neu/studio/chat.md#auto-parameter-tuning) Anpassung und Bearbeitung von Chat-Templates.
* [Exportiere oder speichere](/docs/de/neu/studio/export.md) dein Modell als GGUF, 16-Bit-Safetensor usw.
* [Ausgaben vergleichen](/docs/de/neu/studio/chat.md#model-arena) mit zwei verschiedenen Modellen nebeneinander.

#### Training

* Trainiere und [RL](/docs/de/erste-schritte/reinforcement-learning-rl-guide.md) über 500 Modelle etwa 2x schneller mit etwa 70 % weniger VRAM (kein Genauigkeitsverlust)
* Unterstützt vollständiges Fine-Tuning, Pre-Training sowie 4-Bit-, 16-Bit- und FP8-Training.
* [Datensätze automatisch erstellen](/docs/de/neu/studio/data-recipe.md) aus PDF-, CSV- und DOCX-Dateien. Bearbeite Daten in einem visuellen Node-Workflow.
* Beobachtbarkeit: Training live überwachen, Loss und GPU-Auslastung verfolgen, Diagramme anpassen
* Am effizientesten [**Reinforcement Learning**](/docs/de/erste-schritte/reinforcement-learning-rl-guide.md) Bibliothek, die für GRPO 80 % weniger VRAM verwendet, [FP8](/docs/de/erste-schritte/reinforcement-learning-rl-guide/fp8-reinforcement-learning.md) usw.
* [Multi-GPU](/docs/de/grundlagen/multi-gpu-training-with-unsloth.md) funktioniert, aber eine deutlich bessere Version kommt noch!

### **Neueste Modelle**

<table data-column-title-hidden data-card-wrap="false" data-view="cards"><thead><tr><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><h4>Qwen3.8</h4></td><td><a href="/files/23e6cfa61ec3d50e3bae2f924bbbb37f04654d38">/files/23e6cfa61ec3d50e3bae2f924bbbb37f04654d38</a></td><td><a href="/pages/5695d6b6dec2df015f4427f80047e860ea228616">/pages/5695d6b6dec2df015f4427f80047e860ea228616</a></td></tr><tr><td><h4>Meta Muse Glimmer</h4></td><td><a href="/files/a63cad54a95bf6e82a732244ec7eafb759f26b5c">/files/a63cad54a95bf6e82a732244ec7eafb759f26b5c</a></td><td></td></tr><tr><td><h4>Kimi K3</h4></td><td><a href="/files/8d56cd2a1b14d21aded0211aaf666524402ec2e4">/files/8d56cd2a1b14d21aded0211aaf666524402ec2e4</a></td><td><a href="/pages/da8ea8f35970b5a8aab75c464434778994dac49f">/pages/da8ea8f35970b5a8aab75c464434778994dac49f</a></td></tr><tr><td><h4>DeepSeek V4</h4></td><td><a href="/files/c5721f62120f101e28ab7c4413de4da00e50ae23">/files/c5721f62120f101e28ab7c4413de4da00e50ae23</a></td><td><a href="/pages/57db3350b759d3dda1134db7bb3461c7a42ecabf">/pages/57db3350b759d3dda1134db7bb3461c7a42ecabf</a></td></tr><tr><td><h4>Qwen3.6</h4></td><td><a href="/files/886818e8e3fce3c9103f22c33715d36f27c6c21a">/files/886818e8e3fce3c9103f22c33715d36f27c6c21a</a></td><td><a href="/pages/efc00d6b1d286a029d0eec8a5a6a24d50b063840">/pages/efc00d6b1d286a029d0eec8a5a6a24d50b063840</a></td></tr><tr><td><h4>GLM-5.2</h4></td><td><a href="/files/00dc777a735e6ef38d17c5c129b5752bdfca1c95">/files/00dc777a735e6ef38d17c5c129b5752bdfca1c95</a></td><td><a href="/pages/58e5f3df7be61773c8d7055c30a65310240079a4">/pages/58e5f3df7be61773c8d7055c30a65310240079a4</a></td></tr><tr><td><h4>Gemma 4</h4></td><td><a href="/files/2f875f196a54dad3331f08ac0392b28245c8612c">/files/2f875f196a54dad3331f08ac0392b28245c8612c</a></td><td><a href="/pages/774ab7ebd11d30a8067d492668e9dd61a8b209fb">/pages/774ab7ebd11d30a8067d492668e9dd61a8b209fb</a></td></tr><tr><td><h4>MiniMax M3</h4></td><td><a href="/files/a76308ea4315317db8fa707eb600b2110ee2fb43">/files/a76308ea4315317db8fa707eb600b2110ee2fb43</a></td><td><a href="/pages/13b7da13a76945069ce02cb3e569b17283e5050e">/pages/13b7da13a76945069ce02cb3e569b17283e5050e</a></td></tr><tr><td><h4>DiffusionGemma</h4></td><td><a href="/files/58445bdd00b954c0b854a37fc177c510c9c2b4c7">/files/58445bdd00b954c0b854a37fc177c510c9c2b4c7</a></td><td><a href="/pages/bcb4233a257ce2347848de7693d401efb89ba424">/pages/bcb4233a257ce2347848de7693d401efb89ba424</a></td></tr></tbody></table>

### **Video-Demo**

{% embed url="<https://www.youtube.com/watch?v=_1hgTTuber4>" %}

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/baf914c5df639b5b868baac27a080b70396d87c2" %}
[Unsloth-Updates](/docs/de/neu/changelog.md)
{% endcontent-ref %}

{% content-ref url="/pages/03532de69dfe0230fe5114e809721d8b7dd74ca6" %}
[Inferenz & Bereitstellung](/docs/de/grundlagen/inference-and-deployment.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/a728a3a28d31267d2a218794d9c5365b9010e404" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md)
{% endcontent-ref %}

{% content-ref url="/pages/abe22dcb3049581e00371a1b82b9e9cf6821a9b0" %}
[Dynamic 3.0 GGUFs](/docs/de/grundlagen/dynamic-3.0-ggufs.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

<figure><img src="/files/6e963f2c762508959a7664228a426c78a061e4df" alt="" width="188"><figcaption></figcaption></figure>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/docs.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.