> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle.md).

# Modelle

- [Qwen3.8 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3.8.md): Leitfaden zum Ausführen von Qwen3.8-Quants, einschließlich Qwen3.8-27B, in deinem lokalen Setup.
- [Muse Glimmer - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/muse-glimmer.md): Erfahre, wie du das neue Modell Muse Glimmer 30B von Meta ausführen kannst.
- [Muse Glimmer Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/muse-glimmer/train.md): Trainiere Metas Modell Muse Glimmer 30B mit Unsloth.
- [DeepSeek-V4: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/deepseek-v4.md): Führe DeepSeek-V4-Pro-0813 und DeepSeek-V4-Flash-0731 lokal auf deinem eigenen Gerät aus!
- [Kimi K3 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/kimi-k3.md): Leitfaden zum Ausführen von Kimi-K3-Quants in deinem lokalen Setup.
- [Tutorials zu Large Language Models (LLMs)](https://unsloth.ai/docs/de/modelle/tutorials.md)
- [Qwen3 - So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune.md): Lerne, Qwen3 lokal mit Unsloth + unseren Dynamic-2.0-Quants auszuführen und zu fine-tunen
- [Qwen3-VL: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune.md): Erfahre, wie du Qwen3-VL lokal mit Unsloth fine-tunst und ausführst.
- [Qwen3-2507: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-2507.md): Führe die lokalen Versionen Qwen3-30B-A3B-2507 und 235B-A22B Thinking und Instruct auf deinem Gerät aus!
- [MiniMax-M2.7 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m27.md): Führe das LLM MiniMax-M2.7 lokal auf deinem eigenen Gerät aus!
- [GLM-5: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-5.md): Führe das neue Modell GLM-5 von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Kimi K2.5: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2.5.md): Leitfaden zum Ausführen von Kimi-K2.5 auf deinem eigenen lokalen Gerät!
- [GLM-4.7-Flash: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7-flash.md): Führe GLM-4.7-Flash lokal auf deinem Gerät aus und fine-tune es!
- [Gemma 3 - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune.md): So führst du Gemma 3 effektiv mit unseren GGUFs in llama.cpp, Ollama und Open WebUI aus und wie du es mit Unsloth fine-tunest!
- [Gemma 3n: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune/gemma-3n-how-to-run-and-fine-tune.md): Führe Googles neues Gemma 3n lokal mit Dynamic GGUFs in llama.cpp, Ollama und Open WebUI aus und fine-tune es mit Unsloth!
- [Qwen3-Coder: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-coder-how-to-run-locally.md): Führe Qwen3-Coder-30B-A3B-Instruct und 480B-A35B lokal mit Unsloth Dynamic Quants aus.
- [MiniMax-M2.5: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m25.md): Führe MiniMax-M2.5 lokal auf deinem eigenen Gerät aus!
- [DeepSeek-OCR 2: Leitfaden zum Ausführen und Fine-Tuning](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-2.md): Leitfaden zum lokalen Ausführen und Fine-Tuning von DeepSeek-OCR-2.
- [GLM-4.7: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7.md): Ein Leitfaden, wie du das Z.ai-Modell GLM-4.7 auf deinem eigenen lokalen Gerät ausführst!
- [Qwen-Image-2512 in ComfyUI lokal ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512.md): Schritt-für-Schritt-Tutorial zum Ausführen von Qwen-Image-2512 auf deinem lokalen Gerät mit ComfyUI.
- [Qwen-Image-2512 in stable-diffusion.cpp ausführen Tutorial](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512/stable-diffusion.cpp.md): Tutorial zur Verwendung von Qwen-Image-2512 in stable-diffusion.cpp.
- [Devstral 2 - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/devstral-2.md): Leitfaden zum lokalen Ausführen der Mistral-Devstral-2-Modelle: 123B-Instruct-2512 und Small-2-24B-Instruct-2512.
- [Ministral 3 - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/ministral-3.md): Leitfaden für Mistral-Ministral-3-Modelle zum lokalen Ausführen oder Fine-Tuning auf deinem Gerät
- [DeepSeek-OCR: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-how-to-run-and-fine-tune.md): Leitfaden zum lokalen Ausführen und Fine-Tuning von DeepSeek-OCR.
- [Kimi K2 Thinking: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2-thinking-how-to-run-locally.md): Leitfaden zum Ausführen von Kimi-K2-Thinking und Kimi-K2 auf deinem eigenen lokalen Gerät!
- [GLM-4.6: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.6-how-to-run-locally.md): Ein Leitfaden, wie du die Modelle Z.ai GLM-4.6 und GLM-4.6V-Flash auf deinem eigenen lokalen Gerät ausführst!
- [Qwen3-Next: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-next.md): Führe die lokalen Versionen Qwen3-Next-80B-A3B-Instruct und Thinking auf deinem Gerät aus!
- [FunctionGemma: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/functiongemma.md): Erfahre, wie du FunctionGemma lokal auf deinem Gerät und deinem Telefon ausführst und fine-tunest.
- [DeepSeek-V3.1: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3.1-how-to-run-locally.md): Ein Leitfaden, wie du DeepSeek-V3.1 und Terminus auf deinem eigenen lokalen Gerät ausführst!
- [DeepSeek-R1-0528: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-0528-how-to-run-locally.md): Ein Leitfaden, wie du DeepSeek-R1-0528 einschließlich Qwen3 auf deinem eigenen lokalen Gerät ausführst!
- [Liquid LFM2.5: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/lfm2.5.md): Führe LFM2.5 Instruct und Vision lokal auf deinem Gerät aus und fine-tune sie!
- [Magistral: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/magistral-how-to-run-and-fine-tune.md): Lerne Magistral kennen - Mistrals neue Reasoning-Modelle.
- [IBM Granite 4.0](https://unsloth.ai/docs/de/modelle/tutorials/ibm-granite-4.0.md): So führst du IBM Granite-4.0 mit Unsloth-GGUFs in llama.cpp und Ollama aus und wie du es fine-tunest!
- [Llama 4: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/llama-4-how-to-run-and-fine-tune.md): So führst du Llama 4 lokal mit unseren dynamischen GGUFs aus, die im Vergleich zur Standard-Quantisierung die Genauigkeit wiederherstellen.
- [Grok 2](https://unsloth.ai/docs/de/modelle/tutorials/grok-2.md): Führe xAIs Grok-2-Modell lokal aus!
- [Devstral: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/devstral-how-to-run-and-fine-tune.md): Führe Mistral Devstral 1.1 aus und fine-tune es, einschließlich Small-2507 und 2505.
- [So führst du lokale LLMs mit Docker aus: Schritt-für-Schritt-Anleitung](https://unsloth.ai/docs/de/modelle/tutorials/how-to-run-llms-with-docker.md): Erfahre, wie du Large Language Models (LLMs) mit Docker und Unsloth auf deinem lokalen Gerät ausführst.
- [DeepSeek-V3-0324: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3-0324-how-to-run-locally.md): So führst du DeepSeek-V3-0324 lokal mit unseren dynamischen Quants aus, die die Genauigkeit wiederherstellen
- [DeepSeek-R1: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally.md): Ein Leitfaden, wie du unsere 1,58-Bit-Dynamic-Quants für DeepSeek-R1 mit llama.cpp ausführen kannst.
- [DeepSeek-R1 Dynamic 1.58-bit](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally/deepseek-r1-dynamic-1.58-bit.md): Sieh dir die Leistungstabellen zum Vergleich von Unsloths Dynamic-GGUF-Quants mit Standard-IMatrix-Quants an.
- [Phi-4 Reasoning: So führst du es aus und fine-tunest es](https://unsloth.ai/docs/de/modelle/tutorials/phi-4-reasoning-how-to-run-and-fine-tune.md): Lerne, Phi-4-Reasoning-Modelle lokal mit Unsloth + unseren Dynamic-2.0-Quants auszuführen und zu fine-tunen
- [QwQ-32B: So führst du es effektiv aus](https://unsloth.ai/docs/de/modelle/tutorials/qwq-32b-how-to-run-effectively.md): So führst du QwQ-32B effektiv mit unseren Fehlerbehebungen und ohne endlose Generierungen + GGUFs aus.
- [Cogito v2.1: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/cogito-v2-how-to-run-locally.md): Die LLMs von Cogito v2.1 gehören zu den stärksten offenen Modellen der Welt, trainiert mit IDA. Außerdem ist v1 in 4 Größen erhältlich: 70B, 109B, 405B und 671B, sodass du die Größe wählen kannst, die am besten zu deiner Hardware passt.
- [Inkling - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/inkling.md): Erfahre, wie du die multimodalen Modelle von Thinking Machine Labs Inkling lokal ausführst.
- [Qwen3.6 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3.6.md): Führe die neuen Modelle Qwen3.6-27B und 35B-A3B lokal aus!
- [Gemma 4 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/gemma-4.md): Führe Googles neue Gemma-4-Modelle lokal aus, einschließlich E2B, E4B, 26B A4B und 31B.
- [Gemma 4 QAT](https://unsloth.ai/docs/de/modelle/gemma-4/qat.md): Führe die Google-Gemma-4-QAT-Modelle lokal aus, einschließlich E2B, E4B, 12B, 26B-A4B und 31B.
- [Gemma 4 Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/gemma-4/train.md): Trainiere Gemma 4 von Google mit Unsloth.
- [NVIDIA Nemotron 3.5 Lightning: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/nemotron-3.5.md)
- [GLM-5.2 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/glm-5.2.md): Führe das neue Modell GLM-5.2 von Z.ai auf lokaler Hardware aus!
- [Kimi K2.7 Code - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/kimi-k2.7-code.md): Schritt-für-Schritt-Anleitung zum Ausführen von Kimi K2.7 Code auf deinem eigenen lokalen Gerät.
- [Wie man MTP-Modelle ausführt: Leitfaden zur Multi-Token-Vorhersage](https://unsloth.ai/docs/de/modelle/mtp.md)
- [DiffusionGemma - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/diffusiongemma.md)
- [MiniMax M3 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/minimax-m3.md): Führe das LLM MiniMax M3 lokal auf deinem eigenen Gerät aus!
- [Qwen3.5 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3.5.md): Führe die neuen Qwen3.5-LLMs auf deinem lokalen Gerät aus, einschließlich Medium: Qwen3.5-35B-A3B, 27B, 122B-A10B, Small: Qwen3.5-0.8B, 2B, 4B, 9B und 397B-A17B!
- [Qwen3.5 Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/qwen3.5/fine-tune.md): Erfahre, wie du Qwen3.5-LLMs mit Unsloth fine-tunest.
- [Qwen3.5 GGUF-Benchmarks](https://unsloth.ai/docs/de/modelle/qwen3.5/gguf-benchmarks.md): Sieh, wie Unsloths Dynamic GGUFs abschneiden + Analyse von Perplexität, KL-Divergenz und MXFP4.
- [Kimi K2.6 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/kimi-k2.6.md): Schritt-für-Schritt-Anleitung zum Ausführen von Kimi-K2.6 auf deinem eigenen lokalen Gerät.
- [NVIDIA Nemotron 3 Ultra - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/nemotron-3-ultra.md): Führe Nemotron-3-Ultra-550B-A55B lokal auf deinem Gerät aus!
- [NVIDIA Nemotron 3 Nano Omni - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/nemotron-3-nano-omni.md): Führe Nemotron-3-Nano-Omni-30B-A3B lokal auf deinem Gerät aus und fine-tune es!
- [Mistral 3.5 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/mistral-3.5.md): Leitfaden für Mistral-3.5-Modelle, um sie lokal auf deinem Gerät auszuführen oder zu fine-tunen
- [IBM Granite 4.1 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/ibm-granite-4.1.md): Führe IBM Granite-4.1 mit Unsloth-GGUFs aus und erfahre, wie du es fine-tunest!
- [GLM-5.1 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/glm-5.1.md): Führe das neue Modell GLM-5.1 von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Qwen3-Coder-Next: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3-coder-next.md): Leitfaden zum lokalen Ausführen von Qwen3-Coder-Next auf deinem Gerät!
- [NVIDIA Nemotron 3 Nano - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3.md): Führe NVIDIA Nemotron 3 Nano lokal auf deinem Gerät aus und fine-tune es!
- [NVIDIA Nemotron-3-Super: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3/nemotron-3-super.md): Führe NVIDIA Nemotron-3-Super-120B-A12B lokal auf deinem Gerät aus und fine-tune es!
- [gpt-oss: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune.md): Führe OpenAIs neue Open-Source-Modelle aus und fine-tune sie!
- [gpt-oss Reinforcement Learning](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning.md)
- [Tutorial: Wie man gpt-oss mit RL trainiert](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning/tutorial-how-to-train-gpt-oss-with-rl.md): Lerne, OpenAI gpt-oss mit GRPO zu trainieren, um 2048 autonom lokal oder auf Colab zu schlagen.
- [Tutorial: Wie man gpt-oss fine-tunet](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/tutorial-how-to-fine-tune-gpt-oss.md): Lerne Schritt für Schritt, wie du OpenAI gpt-oss lokal mit Unsloth trainierst.
- [gpt-oss-Training mit langem Kontext](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/long-context-gpt-oss-training.md)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/modelle.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.