> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle.md).

# Modelle

- [DeepSeek-V4.1-Flash: Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/deepseek-v4.1-flash.md): Führe DeepSeek-V4.1-Flash-1017 lokal mit Unsloth GGUFs und Engram-n-Gramm-Auslagerung aus.
- [Qwen3.8 – Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/qwen3.8.md): Leitfaden zum Ausführen von Qwen3.8-Quants, einschließlich Qwen3.8-27B, in deiner lokalen Umgebung.
- [Qwen3.8-Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/qwen3.8/train.md): Erfahre, wie du Qwen3.8-27B mit Unsloth feinabstimmst.
- [Qwen3.8-Flash-Next: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/qwen3.8-next.md): Leitfaden zum lokalen Ausführen von Qwen3.8-Flash-Next.
- [Flint: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/flint.md): Führen Sie Recursive Flint lokal mit Unsloth Dynamic GGUFs, Unsloth Desktop und llama.cpp aus.
- [GLM-5.3-Flash: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/glm-5.3-flash.md): Führe das neue GLM-5.3-Flash, auch bekannt als ox-alpha, Modell von Z.ai aus.
- [Meta Muse Spark Open – Anleitung zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/muse-spark-open.md): Erfahren Sie, wie Sie das neue Muse-Spark-Open-Modell von Meta ausführen.
- [NVIDIA Nemotron 3.5 Bolt: Anleitung für die lokale Ausführung](https://unsloth.ai/docs/de/modelle/nemotron-3.5-bolt.md): Führe Nemotron 3.5 Bolt lokal mit Unsloth-GGUFs aus.
- [Qwen-Image-2.1: So führen Sie es lokal aus](https://unsloth.ai/docs/de/modelle/qwen-image-2.1.md): Führen Sie Qwen-Image-2.1 lokal mit Unsloth FP8 und GGUF-Quantisierungen aus.
- [EmbeddingGemma 2 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/embeddinggemma-2.md): Führen Sie EmbeddingGemma 2 lokal aus und feinabstimmen Sie das Modell mit Unsloth.
- [Entscheidungsmodelle lokal mit Unsloth ausführen und bereitstellen: Laya + Jev API](https://unsloth.ai/docs/de/modelle/decision-laya.md): Stellen Sie Entscheidungsmodelle lokal mit Unsloth bereit und führen Sie sie aus.
- [NVIDIA Nemotron 3.5 Super VL: Anleitung für die lokale Ausführung](https://unsloth.ai/docs/de/modelle/nemotron-3.5-super-vl.md): Führe Nemotron 3.5 Super VL lokal mit Unsloth-GGUFs aus.
- [DeepSeek-V4: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/deepseek-v4.md): Führe DeepSeek-V4-Pro-0813 und DeepSeek-V4-Flash-0731 lokal auf deinem eigenen Gerät aus!
- [Tutorials zu Large Language Models (LLMs)](https://unsloth.ai/docs/de/modelle/tutorials.md)
- [Qwen3 – Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune.md): Lerne, Qwen3 lokal mit Unsloth + unseren Dynamic 2.0 Quants auszuführen und feinabzustimmen
- [Qwen3-VL: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune.md): Lerne, Qwen3-VL lokal mit Unsloth feinabzustimmen und auszuführen.
- [Qwen3-2507: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-2507.md): Führe die lokalen Versionen Qwen3-30B-A3B-2507 und 235B-A22B Thinking und Instruct auf deinem Gerät aus!
- [MiniMax-M2.7 – Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m27.md): Führe MiniMax-M2.7 LLM lokal auf deinem eigenen Gerät aus!
- [GLM-5: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-5.md): Führe das neue GLM-5-Modell von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Kimi K2.5: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2.5.md): Leitfaden zum Ausführen von Kimi-K2.5 auf deinem eigenen lokalen Gerät!
- [GLM-4.7-Flash: So führt man es lokal aus](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7-flash.md): Führe GLM-4.7-Flash lokal auf deinem Gerät aus und feinabstimme es!
- [Gemma 3 – Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune.md): Wie man Gemma 3 effektiv mit unseren GGUFs auf llama.cpp, Ollama, Open WebUI ausführt und wie man mit Unsloth feinabstimmt!
- [Gemma 3n: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/gemma-3-how-to-run-and-fine-tune/gemma-3n-how-to-run-and-fine-tune.md): Führe Googles neues Gemma 3n lokal mit Dynamic GGUFs auf llama.cpp, Ollama und Open WebUI aus und feinabstimme es mit Unsloth!
- [Qwen3-Coder: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-coder-how-to-run-locally.md): Führe Qwen3-Coder-30B-A3B-Instruct und 480B-A35B lokal mit Unsloth Dynamic Quants aus.
- [MiniMax-M2.5: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/minimax-m25.md): Führe MiniMax-M2.5 lokal auf deinem eigenen Gerät aus!
- [DeepSeek-OCR 2: Leitfaden zum Ausführen und Feinabstimmen](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-2.md): Leitfaden zum lokalen Ausführen und Feinabstimmen von DeepSeek-OCR-2.
- [GLM-4.7: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.7.md): Ein Leitfaden, wie du das Z.ai GLM-4.7-Modell auf deinem eigenen lokalen Gerät ausführst!
- [Wie man Qwen-Image-2512 lokal in ComfyUI ausführt](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512.md): Schritt-für-Schritt-Tutorial zum Ausführen von Qwen-Image-2512 auf deinem lokalen Gerät mit ComfyUI.
- [Qwen-Image-2512 in stable-diffusion.cpp ausführen Tutorial](https://unsloth.ai/docs/de/modelle/tutorials/qwen-image-2512/stable-diffusion.cpp.md): Tutorial zur Verwendung von Qwen-Image-2512 in stable-diffusion.cpp.
- [Devstral 2 – Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/devstral-2.md): Leitfaden zum lokalen Ausführen der Mistral-Devstral-2-Modelle: 123B-Instruct-2512 und Small-2-24B-Instruct-2512.
- [Ministral 3 – Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/ministral-3.md): Leitfaden für Mistral-Ministral-3-Modelle, um sie lokal auf deinem Gerät auszuführen oder feinabzustimmen
- [DeepSeek-OCR: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-ocr-how-to-run-and-fine-tune.md): Leitfaden zum lokalen Ausführen und Feinabstimmen von DeepSeek-OCR.
- [Kimi K2 Thinking: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/kimi-k2-thinking-how-to-run-locally.md): Leitfaden zum Ausführen von Kimi-K2-Thinking und Kimi-K2 auf deinem eigenen lokalen Gerät!
- [GLM-4.6: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/glm-4.6-how-to-run-locally.md): Ein Leitfaden, wie du das Z.ai GLM-4.6- und GLM-4.6V-Flash-Modell auf deinem eigenen lokalen Gerät ausführst!
- [Qwen3-Next: Leitfaden zum lokalen Ausführen](https://unsloth.ai/docs/de/modelle/tutorials/qwen3-next.md): Führe die lokalen Versionen Qwen3-Next-80B-A3B-Instruct und Thinking auf deinem Gerät aus!
- [FunctionGemma: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/functiongemma.md): Erfahre, wie du FunctionGemma lokal auf deinem Gerät und Telefon ausführst und feinabstimmst.
- [DeepSeek-V3.1: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3.1-how-to-run-locally.md): Ein Leitfaden, wie du DeepSeek-V3.1 und Terminus auf deinem eigenen lokalen Gerät ausführst!
- [DeepSeek-R1-0528: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-0528-how-to-run-locally.md): Ein Leitfaden, wie du DeepSeek-R1-0528 einschließlich Qwen3 auf deinem eigenen lokalen Gerät ausführst!
- [Liquid LFM2.5: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/lfm2.5.md): Führe LFM2.5 Instruct und Vision lokal auf deinem Gerät aus und feinabstimme sie!
- [Magistral: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/magistral-how-to-run-and-fine-tune.md): Lerne Magistral kennen – die neuen Reasoning-Modelle von Mistral.
- [IBM Granite 4.0](https://unsloth.ai/docs/de/modelle/tutorials/ibm-granite-4.0.md): Wie man IBM Granite-4.0 mit Unsloth GGUFs auf llama.cpp und Ollama ausführt und wie man feinabstimmt!
- [Llama 4: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/llama-4-how-to-run-and-fine-tune.md): Wie man Llama 4 lokal mit unseren dynamischen GGUFs ausführt, die im Vergleich zur Standardquantisierung die Genauigkeit wiederherstellen.
- [Grok 2](https://unsloth.ai/docs/de/modelle/tutorials/grok-2.md): Führe xAIs Grok-2-Modell lokal aus!
- [Devstral: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/devstral-how-to-run-and-fine-tune.md): Führe Mistral Devstral 1.1 aus und feinabstimme es, einschließlich Small-2507 und 2505.
- [Wie man lokale LLMs mit Docker ausführt: Schritt-für-Schritt-Leitfaden](https://unsloth.ai/docs/de/modelle/tutorials/how-to-run-llms-with-docker.md): Erfahre, wie du Large Language Models (LLMs) mit Docker und Unsloth auf deinem lokalen Gerät ausführst.
- [DeepSeek-V3-0324: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-v3-0324-how-to-run-locally.md): Wie man DeepSeek-V3-0324 lokal mit unseren dynamischen Quants ausführt, die die Genauigkeit wiederherstellen
- [DeepSeek-R1: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally.md): Ein Leitfaden, wie du unsere 1,58-Bit Dynamic Quants für DeepSeek-R1 mit llama.cpp ausführen kannst.
- [DeepSeek-R1 Dynamic 1.58-Bit](https://unsloth.ai/docs/de/modelle/tutorials/deepseek-r1-how-to-run-locally/deepseek-r1-dynamic-1.58-bit.md): Sieh dir die Leistungsvergleichstabellen für Unsloths Dynamic GGUF Quants im Vergleich zu Standard-IMatrix-Quants an.
- [Phi-4 Reasoning: Wie man ausführt und feinabstimmt](https://unsloth.ai/docs/de/modelle/tutorials/phi-4-reasoning-how-to-run-and-fine-tune.md): Lerne, Phi-4-Reasoning-Modelle lokal mit Unsloth + unseren Dynamic 2.0 Quants auszuführen und feinabzustimmen
- [QwQ-32B: Wie man effektiv ausführt](https://unsloth.ai/docs/de/modelle/tutorials/qwq-32b-how-to-run-effectively.md): Wie man QwQ-32B effektiv mit unseren Fehlerbehebungen und ohne endlose Generierungen + GGUFs ausführt.
- [Cogito v2.1: Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/tutorials/cogito-v2-how-to-run-locally.md): Cogito v2.1 LLMs gehören zu den stärksten offenen Modellen der Welt, trainiert mit IDA. Außerdem gibt es v1 in 4 Größen: 70B, 109B, 405B und 671B, sodass du die Größe auswählen kannst, die am besten zu deiner Hardware passt.
- [Gemma 4 – Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/gemma-4.md): Führe Googles neue Gemma-4-Modelle lokal aus, einschließlich E2B, E4B, 26B A4B und 31B.
- [Gemma 4 QAT](https://unsloth.ai/docs/de/modelle/gemma-4/qat.md): Führe Google-Gemma-4-QAT-Modelle lokal aus, einschließlich E2B, E4B, 12B, 26B-A4B und 31B.
- [Gemma 4 Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/gemma-4/train.md): Trainiere Gemma 4 von Google mit Unsloth.
- [GLM-5.3 - So führen Sie es lokal aus](https://unsloth.ai/docs/de/modelle/glm-5.3.md): Führen Sie das neue Modell GLM-5.3 von Z.ai aus.
- [Muse Glimmer – Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/muse-glimmer.md): Erfahre, wie du das neue Muse Glimmer 30B-Modell von Meta ausführst.
- [Muse Glimmer Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/muse-glimmer/train.md): Trainiere Metas Muse Glimmer 30B-Modell mit Unsloth.
- [Inkling – Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/inkling.md): Erfahre, wie du die multimodalen Modelle von Thinking Machine Labs Inkling lokal ausführst.
- [Qwen3.6 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/qwen3.6.md): Führe die neuen Modelle Qwen3.6-27B und 35B-A3B lokal aus!
- [Kimi K3 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/kimi-k3.md): Leitfaden zum Ausführen von Kimi K3 Quants in deiner lokalen Umgebung.
- [GLM-5.2 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/glm-5.2.md): Führe das neue GLM-5.2-Modell von Z.ai auf lokaler Hardware aus!
- [Kimi K2.7 Code - Lokal ausführen](https://unsloth.ai/docs/de/modelle/kimi-k2.7-code.md): Schritt-für-Schritt-Leitfaden zum Ausführen von Kimi K2.7 Code auf deinem eigenen lokalen Gerät.
- [Wie man MTP-Modelle ausführt: Leitfaden zur Multi-Token-Prognose](https://unsloth.ai/docs/de/modelle/mtp.md)
- [DiffusionGemma - Lokal ausführen](https://unsloth.ai/docs/de/modelle/diffusiongemma.md)
- [MiniMax M3 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/minimax-m3.md): Führe MiniMax M3 LLM lokal auf deinem eigenen Gerät aus!
- [Qwen3.5 – Wie man lokal ausführt](https://unsloth.ai/docs/de/modelle/qwen3.5.md): Führe die neuen Qwen3.5-LLMs aus, einschließlich Medium: Qwen3.5-35B-A3B, 27B, 122B-A10B, Small: Qwen3.5-0.8B, 2B, 4B, 9B und 397B-A17B, auf deinem lokalen Gerät!
- [Qwen3.5 Fine-Tuning-Leitfaden](https://unsloth.ai/docs/de/modelle/qwen3.5/fine-tune.md): Erfahre, wie du Qwen3.5-LLMs mit Unsloth feinabstimmst.
- [Qwen3.5 GGUF-Benchmarks](https://unsloth.ai/docs/de/modelle/qwen3.5/gguf-benchmarks.md): Sieh dir an, wie Unsloth Dynamic GGUFs abschneiden + Analyse von Perplexität, KL-Divergenz und MXFP4.
- [NVIDIA Nemotron 3.5 Lightning: Lokal ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3.5.md)
- [Kimi K2.6 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/kimi-k2.6.md): Schritt-für-Schritt-Leitfaden zum Ausführen von Kimi-K2.6 auf deinem eigenen lokalen Gerät.
- [NVIDIA Nemotron 3 Ultra - Lokal ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3-ultra.md): Führe Nemotron-3-Ultra-550B-A55B lokal auf deinem Gerät aus!
- [NVIDIA Nemotron 3 Nano Omni - Lokal ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3-nano-omni.md): Führe Nemotron-3-Nano-Omni-30B-A3B lokal auf deinem Gerät aus und feinabstimme es!
- [Mistral 3.5 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/mistral-3.5.md): Leitfaden für Mistral-Mistral-3.5-Modelle, um sie lokal auf deinem Gerät auszuführen oder feinabzustimmen
- [IBM Granite 4.1 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/ibm-granite-4.1.md): Führe IBM Granite-4.1 mit Unsloth GGUFs aus und erfahre, wie man feinabstimmt!
- [GLM-5.1 - Lokal ausführen](https://unsloth.ai/docs/de/modelle/glm-5.1.md): Führe das neue GLM-5.1-Modell von Z.ai auf deinem eigenen lokalen Gerät aus!
- [Qwen3-Coder-Next: Lokal ausführen](https://unsloth.ai/docs/de/modelle/qwen3-coder-next.md): Leitfaden zum Ausführen von Qwen3-Coder-Next lokal auf deinem Gerät!
- [NVIDIA Nemotron 3 Nano – Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3.md): Führe NVIDIA Nemotron 3 Nano lokal auf deinem Gerät aus und feinabstimme es!
- [NVIDIA Nemotron-3-Super: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/nemotron-3/nemotron-3-super.md): Führe NVIDIA Nemotron-3-Super-120B-A12B lokal auf deinem Gerät aus und feinabstimme es!
- [gpt-oss: Leitfaden zum Ausführen](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune.md): Führe OpenAIs neue Open-Source-Modelle aus und feinabstimme sie!
- [gpt-oss Reinforcement Learning](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning.md)
- [Tutorial: Wie man gpt-oss mit RL trainiert](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/gpt-oss-reinforcement-learning/tutorial-how-to-train-gpt-oss-with-rl.md): Lerne, OpenAI gpt-oss mit GRPO zu trainieren, um 2048 autonom lokal oder auf Colab zu schlagen.
- [Tutorial: Wie man gpt-oss feinabstimmt](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/tutorial-how-to-fine-tune-gpt-oss.md): Lerne Schritt für Schritt, wie du OpenAI gpt-oss lokal mit Unsloth trainierst.
- [Langer Kontext gpt-oss-Training](https://unsloth.ai/docs/de/modelle/gpt-oss-how-to-run-and-fine-tune/long-context-gpt-oss-training.md)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/modelle.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.