> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle.md).

# Modelle

- [Tutorials für Large Language Models (LLMs)](https://unsloth.ai/docs/de/modelle/tutorials.md)
- [Qwen3 - So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune.md): Lerne, Qwen3 lokal mit Unsloth + unseren Dynamic-2.0-Quantisierungen auszuführen und feinabzustimmen
- [Qwen3-VL: Anleitung zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune.md): Lerne, Qwen3-VL lokal mit Unsloth feinabzustimmen und auszuführen.
- [Qwen3-2507: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-2507.md): Führe die lokalen Versionen Qwen3-30B-A3B-2507 und 235B-A22B Thinking und Instruct auf deinem Gerät aus!
- [MiniMax-M2.7 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m27.md): Führe das MiniMax-M2.7-LLM lokal auf deinem eigenen Gerät aus!
- [GLM-5: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-5.md): Führe das neue GLM-5-Modell von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Kimi K2.5: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2.5.md): Anleitung zum Ausführen von Kimi-K2.5 auf deinem eigenen lokalen Gerät!
- [GLM-4.7-Flash: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7-flash.md): Führe GLM-4.7-Flash lokal auf deinem Gerät aus und feinabstimme es!
- [Gemma 3 - Anleitung zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune.md): Wie man Gemma 3 effektiv mit unseren GGUFs auf llama.cpp, Ollama, Open WebUI ausführt und wie man mit Unsloth feinabstimmt!
- [Gemma 3n: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune/gemma-3n-how-to-run-and-fine-tune.md): Führe Googles neues Gemma 3n lokal mit Dynamic GGUFs auf llama.cpp, Ollama, Open WebUI aus und feinabstimme es mit Unsloth!
- [Qwen3-Coder: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-coder-how-to-run-locally.md): Führe Qwen3-Coder-30B-A3B-Instruct und 480B-A35B lokal mit Unsloth-Dynamic-Quantisierungen aus.
- [MiniMax-M2.5: Anleitung zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m25.md): Führe MiniMax-M2.5 lokal auf deinem eigenen Gerät aus!
- [DeepSeek-OCR 2: Anleitung zum Ausführen & Feinabstimmen](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-2.md): Anleitung zum lokalen Ausführen und Feinabstimmen von DeepSeek-OCR-2.
- [GLM-4.7: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7.md): Eine Anleitung zum Ausführen des Z.ai GLM-4.7-Modells auf deinem eigenen lokalen Gerät!
- [Wie man Qwen-Image-2512 lokal in ComfyUI ausführt](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512.md): Schritt-für-Schritt-Tutorial zum Ausführen von Qwen-Image-2512 auf deinem lokalen Gerät mit ComfyUI.
- [Qwen-Image-2512 in stable-diffusion.cpp ausführen Tutorial](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512/stable-diffusion.cpp.md): Tutorial zur Verwendung von Qwen-Image-2512 in stable-diffusion.cpp.
- [Devstral 2 - Anleitung zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/devstral-2.md): Anleitung zum lokalen Ausführen der Mistral-Devstral-2-Modelle: 123B-Instruct-2512 und Small-2-24B-Instruct-2512.
- [Ministral 3 - Anleitung zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/ministral-3.md): Anleitung für Mistral-Ministral-3-Modelle zum lokalen Ausführen oder Feinabstimmen auf deinem Gerät
- [DeepSeek-OCR: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-how-to-run-and-fine-tune.md): Anleitung zum lokalen Ausführen und Feinabstimmen von DeepSeek-OCR.
- [Kimi K2 Thinking: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2-thinking-how-to-run-locally.md): Anleitung zum Ausführen von Kimi-K2-Thinking und Kimi-K2 auf deinem eigenen lokalen Gerät!
- [GLM-4.6: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.6-how-to-run-locally.md): Eine Anleitung zum Ausführen der Modelle Z.ai GLM-4.6 und GLM-4.6V-Flash auf deinem eigenen lokalen Gerät!
- [Qwen3-Next: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-next.md): Führe die Instruct- und Thinking-Versionen von Qwen3-Next-80B-A3B lokal auf deinem Gerät aus!
- [FunctionGemma: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/functiongemma.md): Lerne, wie du FunctionGemma lokal auf deinem Gerät und Telefon ausführen und feinabstimmen kannst.
- [DeepSeek-V3.1: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3.1-how-to-run-locally.md): Eine Anleitung zum Ausführen von DeepSeek-V3.1 und Terminus auf deinem eigenen lokalen Gerät!
- [DeepSeek-R1-0528: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-0528-how-to-run-locally.md): Eine Anleitung zum Ausführen von DeepSeek-R1-0528, einschließlich Qwen3, auf deinem eigenen lokalen Gerät!
- [Liquid LFM2.5: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/lfm2.5.md): Führe LFM2.5 Instruct und Vision lokal auf deinem Gerät aus und feinabstimme sie!
- [Magistral: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/magistral-how-to-run-and-fine-tune.md): Lerne Magistral kennen - Mistrals neue Reasoning-Modelle.
- [IBM Granite 4.0](https://unsloth.ai/docs/de/modelle/tutorials/ibm-granite-4.0.md): Wie man IBM Granite-4.0 mit Unsloth-GGUFs auf llama.cpp und Ollama ausführt und wie man es feinabstimmt!
- [Llama 4: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/llama-4-how-to-run-and-fine-tune.md): Wie man Llama 4 lokal mit unseren dynamischen GGUFs ausführt, die im Vergleich zur Standard-Quantisierung die Genauigkeit wiederherstellen.
- [Grok 2](https://unsloth.ai/docs/de/modelle/tutorials/grok-2.md): Führe xAIs Grok-2-Modell lokal aus!
- [Devstral: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/devstral-how-to-run-and-fine-tune.md): Führe Mistral Devstral 1.1 aus und feinabstimme es, einschließlich Small-2507 und 2505.
- [Wie man lokale LLMs mit Docker ausführt: Schritt-für-Schritt-Anleitung](https://unsloth.ai/docs/de/modelle/tutorials/how-to-run-llms-with-docker.md): Lerne, wie man Large Language Models (LLMs) mit Docker & Unsloth auf deinem lokalen Gerät ausführt.
- [DeepSeek-V3-0324: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3-0324-how-to-run-locally.md): Wie man DeepSeek-V3-0324 lokal mit unseren dynamischen Quantisierungen ausführt, die die Genauigkeit wiederherstellen
- [DeepSeek-R1: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally.md): Eine Anleitung, wie du unsere 1,58-Bit-Dynamic-Quantisierungen für DeepSeek-R1 mit llama.cpp ausführen kannst.
- [DeepSeek-R1 Dynamic 1.58-bit](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally/deepseek-r1-dynamic-1.58-bit.md): Sieh dir die Leistungstabellen an, die Unsloths Dynamic-GGUF-Quantisierungen mit Standard-Imatrix-Quantisierungen vergleichen.
- [Phi-4 Reasoning: So wird es ausgeführt & feinabgestimmt](https://unsloth.ai/docs/de/modelle/tutorials/phi-4-reasoning-how-to-run-and-fine-tune.md): Lerne, Phi-4-Reasoning-Modelle lokal mit Unsloth + unseren Dynamic-2.0-Quantisierungen auszuführen und feinabzustimmen
- [QwQ-32B: So wird es effektiv ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/qwq-32b-how-to-run-effectively.md): Wie man QwQ-32B effektiv mit unseren Fehlerbehebungen und ohne endlose Generierungen + GGUFs ausführt.
- [Cogito v2.1: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/tutorials/cogito-v2-how-to-run-locally.md): Cogito-v2.1-LLMs gehören zu den stärksten offenen Modellen der Welt, trainiert mit IDA. Außerdem gibt es v1 in 4 Größen: 70B, 109B, 405B und 671B, sodass du die Größe wählen kannst, die am besten zu deiner Hardware passt.
- [GLM-5.2 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/glm-5.2.md): Führe das neue GLM-5.2-Modell von Z.ai auf lokaler Hardware aus!
- [Qwen3.6 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/qwen3.6.md): Führe die neuen Modelle Qwen3.6-27B und 35B-A3B lokal aus!
- [Gemma 4 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/gemma-4.md): Führe Googles neue Gemma-4-Modelle lokal aus, darunter E2B, E4B, 26B A4B und 31B.
- [Gemma 4 QAT](https://unsloth.ai/docs/de/modelle/gemma-4/qat.md): Führe Google-Gemma-4-QAT-Modelle lokal aus, darunter E2B, E4B, 12B, 26B-A4B und 31B.
- [Gemma 4 Fine-Tuning-Anleitung](https://unsloth.ai/docs/de/modelle/gemma-4/train.md): Trainiere Gemma 4 von Google mit Unsloth.
- [DeepSeek-V4: Wie man es lokal ausführt](https://unsloth.ai/docs/de/modelle/deepseek-v4.md): Führe DeepSeek-V4-Flash lokal auf deinem eigenen Gerät aus!
- [Inkling - Wie man es lokal ausführt](https://unsloth.ai/docs/de/modelle/inkling.md): Erfahre, wie du das multimodale Modell Inkling von Thinking Machine Labs lokal ausführst.
- [Kimi K2.7 Code - Wie man es lokal ausführt](https://unsloth.ai/docs/de/modelle/kimi-k2.7-code.md): Schritt-für-Schritt-Anleitung zum Ausführen von Kimi K2.7 Code auf deinem eigenen lokalen Gerät.
- [Wie man MTP-Modelle ausführt: Anleitung zur Multi-Token-Vorhersage](https://unsloth.ai/docs/de/modelle/mtp.md)
- [DiffusionGemma - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/diffusiongemma.md)
- [MiniMax M3 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/minimax-m3.md): Führe das MiniMax-M3-LLM lokal auf deinem eigenen Gerät aus!
- [Qwen3.5 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/qwen3.5.md): Führe die neuen Qwen3.5-LLMs aus, darunter Medium: Qwen3.5-35B-A3B, 27B, 122B-A10B, Small: Qwen3.5-0.8B, 2B, 4B, 9B und 397B-A17B auf deinem lokalen Gerät!
- [Qwen3.5 Fine-Tuning-Anleitung](https://unsloth.ai/docs/de/modelle/qwen3.5/fine-tune.md): Erfahre, wie du Qwen3.5-LLMs mit Unsloth feinabstimmst.
- [Qwen3.5 GGUF-Benchmarks](https://unsloth.ai/docs/de/modelle/qwen3.5/gguf-benchmarks.md): Sieh dir an, wie sich Unsloths Dynamic-GGUFs schlagen + Analyse von Perplexity, KL-Divergenz und MXFP4.
- [Kimi K2.6 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/kimi-k2.6.md): Schritt-für-Schritt-Anleitung zum Ausführen von Kimi-K2.6 auf deinem eigenen lokalen Gerät.
- [NVIDIA Nemotron 3 Ultra - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/nemotron-3-ultra.md): Führe Nemotron-3-Ultra-550B-A55B lokal auf deinem Gerät aus!
- [NVIDIA Nemotron 3 Nano Omni - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/nemotron-3-nano-omni.md): Führe Nemotron-3-Nano-Omni-30B-A3B lokal auf deinem Gerät aus und feinabstimme es!
- [Mistral 3.5 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/mistral-3.5.md): Anleitung für Mistral-3.5-Modelle zum lokalen Ausführen oder Feinabstimmen auf deinem Gerät
- [IBM Granite 4.1 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/ibm-granite-4.1.md): Führe IBM Granite-4.1 mit Unsloth-GGUFs aus und lerne, wie man es feinabstimmt!
- [GLM-5.1 - So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/glm-5.1.md): Führe das neue GLM-5.1-Modell von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Qwen3-Coder-Next: So wird es lokal ausgeführt](https://unsloth.ai/docs/de/modelle/qwen3-coder-next.md): Anleitung zum lokalen Ausführen von Qwen3-Coder-Next auf deinem Gerät!
- [NVIDIA Nemotron 3 Nano - Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3.md): Führe NVIDIA Nemotron 3 Nano lokal auf deinem Gerät aus und feinabstimme es!
- [NVIDIA Nemotron-3-Super: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3/nemotron-3-super.md): Führe NVIDIA Nemotron-3-Super-120B-A12B lokal auf deinem Gerät aus und feinabstimme es!
- [gpt-oss: Anleitung zum Ausführen](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune.md): Führe OpenAIs neue Open-Source-Modelle aus und feinabstimme sie!
- [gpt-oss Reinforcement Learning](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning.md)
- [Tutorial: Wie man gpt-oss mit RL trainiert](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning/tutorial-how-to-train-gpt-oss-with-rl.md): Lerne, OpenAI gpt-oss mit GRPO zu trainieren, um lokal oder auf Colab autonom 2048 zu schlagen.
- [Tutorial: Wie man gpt-oss feinabstimmt](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/tutorial-how-to-fine-tune-gpt-oss.md): Lerne Schritt für Schritt, wie du OpenAI gpt-oss lokal mit Unsloth trainierst.
- [gpt-oss-Training mit langem Kontext](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/long-context-gpt-oss-training.md)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/modelle.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.