> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle.md).

# Modelle

- [Qwen3.8 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3.8.md): Leitfaden zum Ausführen von Qwen3.8-Quants, einschließlich Qwen3.8-27B, in deinem lokalen Setup.
- [Qwen3.8 Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/qwen3.8/train.md): Erfahre, wie du Qwen3.8-27B mit Unsloth feinabstimmst.
- [Qwen3.8-Flash-Next: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3.8-next.md): Leitfaden zum lokalen Ausführen von Qwen3.8-Flash-Next.
- [GLM-5.3-Flash: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/glm-5.3-flash.md): Führe das neue GLM-5.3-Flash, auch bekannt als ox-alpha, von Z.ai aus.
- [DeepSeek-V4: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/deepseek-v4.md): Führe DeepSeek-V4-Pro-0813 und DeepSeek-V4-Flash-0731 lokal auf deinem eigenen Gerät aus!
- [Tutorials zu großen Sprachmodellen (LLMs)](https://unsloth.ai/docs/de/modelle/tutorials.md)
- [Qwen3 - So führen und feinabstimmen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune.md): Lerne, Qwen3 lokal mit Unsloth + unseren Dynamic 2.0 Quants auszuführen und feinabzustimmen
- [Qwen3-VL: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune.md): Lerne, Qwen3-VL lokal mit Unsloth feinabzustimmen und auszuführen.
- [Qwen3-2507: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-2507.md): Führe Qwen3-30B-A3B-2507 und die 235B-A22B Thinking- und Instruct-Versionen lokal auf deinem Gerät aus!
- [MiniMax-M2.7 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m27.md): Führe das MiniMax-M2.7-LLM lokal auf deinem eigenen Gerät aus!
- [GLM-5: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-5.md): Führe das neue GLM-5-Modell von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Kimi K2.5: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2.5.md): Leitfaden zum Ausführen von Kimi-K2.5 auf deinem eigenen lokalen Gerät!
- [GLM-4.7-Flash: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7-flash.md): Führe GLM-4.7-Flash lokal auf deinem Gerät aus und feinabstimme es!
- [Gemma 3 - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune.md): Wie man Gemma 3 effektiv mit unseren GGUFs in llama.cpp, Ollama und Open WebUI ausführt und wie man mit Unsloth feinabstimmt!
- [Gemma 3n: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune/gemma-3n-how-to-run-and-fine-tune.md): Führe Googles neues Gemma 3n lokal mit Dynamic GGUFs in llama.cpp, Ollama und Open WebUI aus und feinabstimme es mit Unsloth!
- [Qwen3-Coder: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-coder-how-to-run-locally.md): Führe Qwen3-Coder-30B-A3B-Instruct und 480B-A35B lokal mit Unsloth Dynamic Quants aus.
- [MiniMax-M2.5: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m25.md): Führe MiniMax-M2.5 lokal auf deinem eigenen Gerät aus!
- [DeepSeek-OCR 2: Leitfaden zum Ausführen und Feinabstimmen](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-2.md): Leitfaden zum lokalen Ausführen und Feinabstimmen von DeepSeek-OCR-2.
- [GLM-4.7: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7.md): Ein Leitfaden zum Ausführen des Z.ai-Modells GLM-4.7 auf deinem eigenen lokalen Gerät!
- [So führst du Qwen-Image-2512 lokal in ComfyUI aus](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512.md): Schritt-für-Schritt-Tutorial zum Ausführen von Qwen-Image-2512 auf deinem lokalen Gerät mit ComfyUI.
- [Qwen-Image-2512 in stable-diffusion.cpp ausführen Tutorial](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512/stable-diffusion.cpp.md): Tutorial zur Verwendung von Qwen-Image-2512 in stable-diffusion.cpp.
- [Devstral 2 - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/devstral-2.md): Leitfaden zum lokalen Ausführen der Mistral-Devstral-2-Modelle: 123B-Instruct-2512 und Small-2-24B-Instruct-2512.
- [Ministral 3 - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/ministral-3.md): Leitfaden für Mistral-Ministral-3-Modelle, zum lokalen Ausführen oder Feinabstimmen auf deinem Gerät
- [DeepSeek-OCR: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-how-to-run-and-fine-tune.md): Leitfaden zum lokalen Ausführen und Feinabstimmen von DeepSeek-OCR.
- [Kimi K2 Thinking: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2-thinking-how-to-run-locally.md): Leitfaden zum Ausführen von Kimi-K2-Thinking und Kimi-K2 auf deinem eigenen lokalen Gerät!
- [GLM-4.6: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.6-how-to-run-locally.md): Ein Leitfaden zum Ausführen der Modelle Z.ai GLM-4.6 und GLM-4.6V-Flash auf deinem eigenen lokalen Gerät!
- [Qwen3-Next: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-next.md): Führe die Versionen Qwen3-Next-80B-A3B-Instruct und Thinking lokal auf deinem Gerät aus!
- [FunctionGemma: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/functiongemma.md): Erfahre, wie du FunctionGemma lokal auf deinem Gerät und Telefon ausführst und feinabstimmst.
- [DeepSeek-V3.1: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3.1-how-to-run-locally.md): Ein Leitfaden zum Ausführen von DeepSeek-V3.1 und Terminus auf deinem eigenen lokalen Gerät!
- [DeepSeek-R1-0528: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-0528-how-to-run-locally.md): Ein Leitfaden zum Ausführen von DeepSeek-R1-0528 einschließlich Qwen3 auf deinem eigenen lokalen Gerät!
- [Liquid LFM2.5: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/lfm2.5.md): Führe LFM2.5 Instruct und Vision lokal auf deinem Gerät aus und feinabstimme es!
- [Magistral: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/magistral-how-to-run-and-fine-tune.md): Lerne Magistral kennen – Mistrals neue Reasoning-Modelle.
- [IBM Granite 4.0](https://unsloth.ai/docs/de/modelle/tutorials/ibm-granite-4.0.md): Wie man IBM Granite-4.0 mit Unsloth GGUFs in llama.cpp und Ollama ausführt und wie man feinabstimmt!
- [Llama 4: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/llama-4-how-to-run-and-fine-tune.md): Wie man Llama 4 lokal mit unseren dynamischen GGUFs ausführt, die im Vergleich zur Standard-Quantisierung die Genauigkeit wiederherstellen.
- [Grok 2](https://unsloth.ai/docs/de/modelle/tutorials/grok-2.md): Führe xAIs Grok-2-Modell lokal aus!
- [Devstral: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/devstral-how-to-run-and-fine-tune.md): Führe Mistral Devstral 1.1 aus und feinabstimme es, einschließlich Small-2507 und 2505.
- [Wie man lokale LLMs mit Docker ausführt: Schritt-für-Schritt-Leitfaden](https://unsloth.ai/docs/de/modelle/tutorials/how-to-run-llms-with-docker.md): Erfahre, wie du große Sprachmodelle (LLMs) mit Docker & Unsloth auf deinem lokalen Gerät ausführst.
- [DeepSeek-V3-0324: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3-0324-how-to-run-locally.md): Wie man DeepSeek-V3-0324 lokal mit unseren dynamischen Quants ausführt, die die Genauigkeit wiederherstellen
- [DeepSeek-R1: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally.md): Ein Leitfaden dazu, wie du unsere 1,58-Bit Dynamic Quants für DeepSeek-R1 mit llama.cpp ausführen kannst.
- [DeepSeek-R1 Dynamic 1.58-bit](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally/deepseek-r1-dynamic-1.58-bit.md): Sieh dir die Performance-Vergleichstabellen für Unsloths Dynamic GGUF Quants vs. Standard IMatrix Quants an.
- [Phi-4 Reasoning: So führst du es aus und feinabstimmst es](https://unsloth.ai/docs/de/modelle/tutorials/phi-4-reasoning-how-to-run-and-fine-tune.md): Lerne, Phi-4-Reasoning-Modelle lokal mit Unsloth + unseren Dynamic 2.0 Quants auszuführen und feinabzustimmen
- [QwQ-32B: So führst du es effektiv aus](https://unsloth.ai/docs/de/modelle/tutorials/qwq-32b-how-to-run-effectively.md): Wie man QwQ-32B effektiv mit unseren Fehlerbehebungen und ohne endlose Generierungen + GGUFs ausführt.
- [Cogito v2.1: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/cogito-v2-how-to-run-locally.md): Die LLMs von Cogito v2.1 gehören zu den stärksten offenen Modellen der Welt, trainiert mit IDA. Außerdem gibt es v1 in 4 Größen: 70B, 109B, 405B und 671B, sodass du die Größe wählen kannst, die am besten zu deiner Hardware passt.
- [Gemma 4 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/gemma-4.md): Führe Googles neue Gemma-4-Modelle lokal aus, einschließlich E2B, E4B, 26B A4B und 31B.
- [Gemma 4 QAT](https://unsloth.ai/docs/de/modelle/gemma-4/qat.md): Führe Googles Gemma-4-QAT-Modelle lokal aus, einschließlich E2B, E4B, 12B, 26B-A4B und 31B.
- [Gemma 4 Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/gemma-4/train.md): Trainiere Gemma 4 von Google mit Unsloth.
- [GLM-5.3 – So führen Sie es lokal aus](https://unsloth.ai/docs/de/modelle/glm-5.3.md): Führen Sie das neue Modell GLM-5.3 von Z.ai lokal aus.
- [Muse Glimmer - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/muse-glimmer.md): Erfahre, wie du das neue Modell Muse Glimmer 30B von Meta ausführst.
- [Fine-Tuning-Leitfaden für Muse Glimmer](https://unsloth.ai/docs/de/modelle/muse-glimmer/train.md): Trainiere Metas Modell Muse Glimmer 30B mit Unsloth.
- [Inkling - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/inkling.md): Erfahre, wie du die multimodalen Modelle von Thinking Machine Labs Inkling lokal ausführst.
- [Qwen3.6 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3.6.md): Führe die neuen Modelle Qwen3.6-27B und 35B-A3B lokal aus!
- [Kimi K3 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/kimi-k3.md): Leitfaden zum Ausführen von Kimi-K3-Quants in deinem lokalen Setup.
- [GLM-5.2 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/glm-5.2.md): Führe das neue GLM-5.2-Modell von Z.ai auf lokaler Hardware aus!
- [Kimi K2.7 Code - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/kimi-k2.7-code.md): Schritt-für-Schritt-Leitfaden zum Ausführen von Kimi K2.7 Code auf deinem eigenen lokalen Gerät.
- [Wie man MTP-Modelle ausführt: Leitfaden zur Multi-Token-Vorhersage](https://unsloth.ai/docs/de/modelle/mtp.md)
- [DiffusionGemma - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/diffusiongemma.md)
- [MiniMax M3 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/minimax-m3.md): Führe das MiniMax-M3-LLM lokal auf deinem eigenen Gerät aus!
- [Qwen3.5 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3.5.md): Führe die neuen Qwen3.5-LLMs lokal auf deinem Gerät aus, einschließlich Medium: Qwen3.5-35B-A3B, 27B, 122B-A10B, Small: Qwen3.5-0.8B, 2B, 4B, 9B und 397B-A17B!
- [Qwen3.5 Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/qwen3.5/fine-tune.md): Erfahre, wie du Qwen3.5-LLMs mit Unsloth feinabstimmst.
- [Qwen3.5 GGUF-Benchmarks](https://unsloth.ai/docs/de/modelle/qwen3.5/gguf-benchmarks.md): Sieh dir an, wie Unsloths Dynamic GGUFs performen + Analyse von Perplexity, KL-Divergenz und MXFP4.
- [NVIDIA Nemotron 3.5 Lightning: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/nemotron-3.5.md)
- [Kimi K2.6 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/kimi-k2.6.md): Schritt-für-Schritt-Leitfaden zum Ausführen von Kimi-K2.6 auf deinem eigenen lokalen Gerät.
- [NVIDIA Nemotron 3 Ultra - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/nemotron-3-ultra.md): Führe Nemotron-3-Ultra-550B-A55B lokal auf deinem Gerät aus!
- [NVIDIA Nemotron 3 Nano Omni - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/nemotron-3-nano-omni.md): Führe Nemotron-3-Nano-Omni-30B-A3B lokal auf deinem Gerät aus und feinabstimme es!
- [Mistral 3.5 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/mistral-3.5.md): Leitfaden für Mistral-3.5-Modelle, zum lokalen Ausführen oder Feinabstimmen auf deinem Gerät
- [IBM Granite 4.1 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/ibm-granite-4.1.md): Führe IBM Granite-4.1 mit Unsloth GGUFs aus und erfahre, wie man feinabstimmt!
- [GLM-5.1 - So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/glm-5.1.md): Führe das neue GLM-5.1-Modell von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Qwen3-Coder-Next: So führst du es lokal aus](https://unsloth.ai/docs/de/modelle/qwen3-coder-next.md): Leitfaden zum lokalen Ausführen von Qwen3-Coder-Next auf deinem Gerät!
- [NVIDIA Nemotron 3 Nano - Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3.md): Führe NVIDIA Nemotron 3 Nano lokal auf deinem Gerät aus und feinabstimme es!
- [NVIDIA Nemotron-3-Super: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3/nemotron-3-super.md): Führe NVIDIA Nemotron-3-Super-120B-A12B lokal auf deinem Gerät aus und feinabstimme es!
- [gpt-oss: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune.md): Führe OpenAIs neue Open-Source-Modelle aus und feinabstimme sie!
- [gpt-oss Reinforcement Learning](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning.md)
- [Tutorial: Wie man gpt-oss mit RL trainiert](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning/tutorial-how-to-train-gpt-oss-with-rl.md): Lerne, OpenAI gpt-oss mit GRPO zu trainieren, um 2048 autonom lokal oder in Colab zu schlagen.
- [Tutorial: Wie man gpt-oss feinabstimmt](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/tutorial-how-to-fine-tune-gpt-oss.md): Lerne Schritt für Schritt, wie man OpenAI gpt-oss lokal mit Unsloth trainiert.
- [Training von gpt-oss mit langem Kontext](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/long-context-gpt-oss-training.md)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/de/modelle.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.