> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/los-gehts/readme.md).

# Unsloth-Dokumentation

Unsloth ermöglicht es dir, KI-Modelle über eine Open-Source-Oberfläche auf deiner eigenen lokalen Hardware auszuführen und zu trainieren.

Unsere Dokumentation führt dich durch das lokale Ausführen und Trainieren deines eigenen LLM.

<a href="/pages/0eb7cfce0eb5651e720ac0944c9e36f7124bc8de" class="button primary">Loslegen</a> <a href="https://github.com/unslothai/unsloth" class="button secondary">Unser GitHub</a>

<table data-view="cards" data-full-width="false"><thead><tr><th></th><th></th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Unsloth für AMD!</strong></td><td>Du kannst jetzt Modelle auf AMD ausführen und trainieren.</td><td><a href="/files/d0b58443e924655eba2e4cea47c2417cdf5cf749">/files/d0b58443e924655eba2e4cea47c2417cdf5cf749</a></td><td><a href="/pages/b21f0a5b7b44aca704f0d30d93e42b6124f974ff">/pages/b21f0a5b7b44aca704f0d30d93e42b6124f974ff</a></td></tr><tr><td><strong>GLM-5.2</strong></td><td>Führe das stärkste offene Modell lokal aus.</td><td><a href="/files/00dc777a735e6ef38d17c5c129b5752bdfca1c95">/files/00dc777a735e6ef38d17c5c129b5752bdfca1c95</a></td><td><a href="/pages/58e5f3df7be61773c8d7055c30a65310240079a4">/pages/58e5f3df7be61773c8d7055c30a65310240079a4</a></td></tr><tr><td><strong>Unsloth Start</strong></td><td>Verbinde deinen Agenten mit jedem lokalen LLM.</td><td><a href="/files/1e2114565b2b42086a8b591325f2f0ffe9eda623">/files/1e2114565b2b42086a8b591325f2f0ffe9eda623</a></td><td><a href="/pages/a728a3a28d31267d2a218794d9c5365b9010e404">/pages/a728a3a28d31267d2a218794d9c5365b9010e404</a></td></tr><tr><td><strong>DeepSeek-V4</strong></td><td>Führe das neue 284B-Flash-Modell aus.</td><td><a href="/files/c5721f62120f101e28ab7c4413de4da00e50ae23">/files/c5721f62120f101e28ab7c4413de4da00e50ae23</a></td><td><a href="/pages/57db3350b759d3dda1134db7bb3461c7a42ecabf">/pages/57db3350b759d3dda1134db7bb3461c7a42ecabf</a></td></tr><tr><td><strong>Dynamic NVFP4</strong></td><td>Führe Modelle auf deiner Blackwell-GPU 2x schneller aus.</td><td><a href="/files/67a2b9b3e693eac8b6bddacca066c38d903cb746">/files/67a2b9b3e693eac8b6bddacca066c38d903cb746</a></td><td><a href="/pages/29a5bf739d55802c5be16c53c78a4682de0eee5d">/pages/29a5bf739d55802c5be16c53c78a4682de0eee5d</a></td></tr><tr><td><strong>Wir stellen Unsloth Studio vor</strong></td><td>Neue offene No-Code-Oberfläche zum Trainieren und Ausführen von LLMs.</td><td><a href="/files/d7c42ebe749f1a6355e750ad6d546c1c25be81de">/files/d7c42ebe749f1a6355e750ad6d546c1c25be81de</a></td><td><a href="/pages/0eb7cfce0eb5651e720ac0944c9e36f7124bc8de">/pages/0eb7cfce0eb5651e720ac0944c9e36f7124bc8de</a></td></tr></tbody></table>

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/9b29615ab338f1d1924174468718cfeab406f641" %}
[Complete LLM Directory](/docs/de/modelle/tutorials.md)
{% endcontent-ref %}

{% content-ref url="/pages/44aed34263310d67280841ab6b72ea1e5648761f" %}
[Fine-tuning Guide](/docs/de/los-gehts/fine-tuning-llms-guide.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/0d4e311c01cc0577c64d15b8a41f22ba29eab7fd" %}
[Models](/docs/de/los-gehts/unsloth-model-catalog.md)
{% endcontent-ref %}

{% content-ref url="/pages/70002e65495a1a44f155c9dabf1fb52b9d84de66" %}
[Unsloth API](/docs/de/grundlagen/api.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

### ⚡ Schnellstart

Unsloth unterstützt MacOS, Linux, [Windows](/docs/de/los-gehts/install/windows-installation.md), [NVIDIA](/docs/de/los-gehts/install/pip-install.md), [AMD](/docs/de/los-gehts/install/amd.md), Intel- und CPU-Setups. Siehe: [Unsloth-Anforderungen](/docs/de/los-gehts/fine-tuning-for-beginners/unsloth-requirements.md). Verwende dieselben Befehle zum Aktualisieren:

**MacOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows PowerShell:**

```bash
irm https://unsloth.ai/install.ps1 | iex
```

### 👾 Unsloth Start

{% columns %}
{% column width="58.333333333333336%" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md) ermöglicht es dir, zu verbinden [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md) und andere Agenten mit lokalen Modellen über den `unsloth start` Befehl.

Starte Unsloth, lade ein Modell, öffne deinen Projektordner und führe dann aus:

```bash
unsloth start claude
```

Ersetze `claude` durch einen der folgenden Agenten:
{% endcolumn %}

{% column width="41.666666666666664%" %}

<figure><img src="/files/71dc8d04c5322ed18a0af5f03d72f1ec3f286b24" alt="" width="563"><figcaption><p>Claude Code, lokal mit Qwen3.5 ausgeführt.</p></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

| Agent                                                              | Befehl                   |
| ------------------------------------------------------------------ | ------------------------ |
| <i class="fa-claude">:claude:</i> Claude Code                      | `unsloth start claude`   |
| <i class="fa-openai">:openai:</i> OpenAI Codex                     | `unsloth start codex`    |
| <i class="fa-caduceus">:caduceus:</i> Hermes Agent                 | `unsloth start hermes`   |
| <i class="fa-lobster">:lobster:</i> OpenClaw                       | `unsloth start openclaw` |
| <i class="fa-rectangle-vertical">:rectangle-vertical:</i> OpenCode | `unsloth start opencode` |

### 🦥 Warum Unsloth?

* Wir arbeiten direkt mit den Teams hinter [gpt-oss](https://docs.unsloth.ai/new/gpt-oss-how-to-run-and-fine-tune#unsloth-fixes-for-gpt-oss), [Qwen3](https://www.reddit.com/r/LocalLLaMA/comments/1kaodxu/qwen3_unsloth_dynamic_ggufs_128k_context_bug_fixes/), [Llama 4](https://github.com/ggml-org/llama.cpp/pull/12889), [Mistral](https://huggingface.co/mistralai/Mistral-Medium-3.5-128B/discussions/18), [Gemma 1-3](https://news.ycombinator.com/item?id=39671146) und [Phi-4](https://unsloth.ai/blog/phi4), wo wir **kritische Fehler behoben** haben, die die Modellgenauigkeit erheblich verbessert haben. Andrej Karpathy hat zum Beispiel [unsere Arbeit gelobt](https://x.com/karpathy/status/1765473722985771335).
* Unsloth vereinfacht lokales Training, Inferenz, Daten und Bereitstellung
* Unsloth unterstützt Inferenz und Training für über 500 Modelle: [Vision](/docs/de/grundlagen/vision-fine-tuning.md), [TTS](/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md), [Embedding](/docs/de/grundlagen/embedding-finetuning.md), [RL](/docs/de/los-gehts/reinforcement-learning-rl-guide.md)

### ⭐ Funktionen

Unsloth ermöglicht es dir, Modelle für Text auszuführen und zu trainieren, [Audio](https://unsloth.ai/docs/basics/text-to-speech-tts-fine-tuning), [Embedding](https://unsloth.ai/docs/new/embedding-finetuning), [Vision](https://unsloth.ai/docs/basics/vision-fine-tuning) und mehr. Unsloth bietet viele wichtige Funktionen sowohl für Inferenz als auch für Training:

#### Inferenz

* [Selbstheilender Tool-Call](/docs/de/neu/studio/chat.md#auto-healing-tool-calling) / Websuche und Verwendung [Unsloth als API](/docs/de/grundlagen/api.md).
* Verbinde deine lokalen Modelle mit jedem Agenten: [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md), [Hermes](/docs/de/integrationen/hermes-agent.md) und mehr.
* Suche + lade herunter + führe jedes Modell aus, wie GGUFs, LoRA-Adapter, Safetensors.
* [Automatische Inferenzparameter](/docs/de/neu/studio/chat.md#auto-parameter-tuning) Anpassung und Bearbeitung von Chat-Vorlagen.
* [Exportieren oder speichern](/docs/de/neu/studio/export.md) dein Modell als GGUF, 16-Bit-Safetensor usw.
* [Ausgaben vergleichen](/docs/de/neu/studio/chat.md#model-arena) mit zwei unterschiedlichen Modellen nebeneinander.

#### Training

* Trainiere und [RL](/docs/de/los-gehts/reinforcement-learning-rl-guide.md) über 500 Modelle \~2x schneller mit \~70% weniger VRAM (kein Genauigkeitsverlust)
* Unterstützt Full Fine-Tuning, Pre-Training sowie 4-Bit-, 16-Bit- und FP8-Training.
* [Datensätze automatisch erstellen](/docs/de/neu/studio/data-recipe.md) aus PDF-, CSV- und DOCX-Dateien. Daten in einem visuellen Knoten-Workflow bearbeiten.
* Beobachtbarkeit: Training live überwachen, Loss und GPU-Auslastung verfolgen, Diagramme anpassen
* Am effizientesten [**Reinforcement Learning**](/docs/de/los-gehts/reinforcement-learning-rl-guide.md) Bibliothek, die 80 % weniger VRAM für GRPO verwendet, [FP8](/docs/de/los-gehts/reinforcement-learning-rl-guide/fp8-reinforcement-learning.md) usw.
* [Multi-GPU](/docs/de/grundlagen/multi-gpu-training-with-unsloth.md) funktioniert, aber eine viel bessere Version ist unterwegs!

### Was ist Fine-Tuning und RL? Warum?

[**Fine-Tuning** ein LLM](/docs/de/los-gehts/fine-tuning-llms-guide.md) passt sein Verhalten an, erweitert das Fachwissen und optimiert die Leistung für bestimmte Aufgaben. Durch das Fine-Tuning eines vortrainierten Modells (z. B. Llama-3.1-8B) auf einem Datensatz kannst du:

* **Wissen aktualisieren**: Neue domänenspezifische Informationen einführen.
* **Verhalten anpassen**: Den Ton, die Persönlichkeit oder den Antwortstil des Modells anpassen.
* **Für Aufgaben optimieren**: Genauigkeit und Relevanz für bestimmte Anwendungsfälle verbessern.

[**Reinforcement Learning (RL)**](/docs/de/los-gehts/reinforcement-learning-rl-guide.md) ist der Bereich, in dem ein „Agent“ lernt, Entscheidungen zu treffen, indem er mit einer Umgebung interagiert und **Feedback** in Form von **Belohnungen** oder **Strafen**.

* **Aktion:** Was das Modell erzeugt (z. B. einen Satz).
* **Belohnung:** Ein Signal, das angibt, wie gut oder schlecht die Aktion des Modells war (z. B. folgte die Antwort den Anweisungen? War sie hilfreich?).
* **Umgebung:** Das Szenario oder die Aufgabe, an der das Modell arbeitet (z. B. die Beantwortung einer Nutzerfrage).

**Beispielhafte Anwendungsfälle für Fine-Tuning oder RL**:

* Ermöglicht es LLMs vorherzusagen, ob eine Schlagzeile ein Unternehmen positiv oder negativ beeinflusst.
* Kann historische Kundeninteraktionen für genauere und maßgeschneiderte Antworten nutzen.
* Fine-Tune ein LLM auf Rechtstexten für Vertragsanalyse, Rechtsprechungsrecherche und Compliance.

Du kannst dir ein feinabgestimmtes Modell als einen spezialisierten Agenten vorstellen, der darauf ausgelegt ist, bestimmte Aufgaben effektiver und effizienter zu erledigen. **Fine-Tuning kann alle Fähigkeiten von RAG reproduzieren**, aber nicht umgekehrt.

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/baf914c5df639b5b868baac27a080b70396d87c2" %}
[Unsloth-Updates](/docs/de/neu/changelog.md)
{% endcontent-ref %}

{% content-ref url="/pages/03532de69dfe0230fe5114e809721d8b7dd74ca6" %}
[Inferenz & Bereitstellung](/docs/de/grundlagen/inference-and-deployment.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/a728a3a28d31267d2a218794d9c5365b9010e404" %}
[Unsloth Start](/docs/de/integrationen/unsloth-start.md)
{% endcontent-ref %}

{% content-ref url="/pages/abe22dcb3049581e00371a1b82b9e9cf6821a9b0" %}
[Dynamic 2.0 GGUFs](/docs/de/grundlagen/unsloth-dynamic-2.0-ggufs.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

<figure><img src="/files/6e963f2c762508959a7664228a426c78a061e4df" alt="" width="188"><figcaption></figcaption></figure>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/los-gehts/readme.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.