> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/grundlagen.md). # Grundlagen - [Unsloth Dynamic 3.0 GGUFs](https://unsloth.ai/docs/de/grundlagen/dynamic-3.0-ggufs.md) - [Unsloth Dynamic GGUFs auf Aider Polyglot](https://unsloth.ai/docs/de/grundlagen/dynamic-3.0-ggufs/unsloth-dynamic-ggufs-on-aider-polyglot.md): Leistung von Unsloth Dynamic GGUFs bei den Aider-Polyglot-Benchmarks - [Wie man Unsloth als API-Endpunkt verwendet](https://unsloth.ai/docs/de/grundlagen/api.md) - [Wie man lokale LLMs überall bereitstellt: Sicherer Fernzugriff mit Cloudflare und Unsloth](https://unsloth.ai/docs/de/grundlagen/wie-man-lokale-llms-uberall-bereitstellt-sicherer-fernzugriff-mit-cloudflare-und-unsloth.md) - [Wie man lokale KI-Modelle von jedem Gerät in deinem Netzwerk mit Unsloth LAN Access bereitstellt](https://unsloth.ai/docs/de/grundlagen/lan.md) - [Inferenz & Bereitstellung](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment.md): Erfahre, wie du dein feinabgestimmtes Modell speicherst, damit du es in deiner bevorzugten Inferenz-Engine ausführen kannst. - [In GGUF speichern](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/saving-to-gguf.md) - [Spekulatives Decodieren](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/saving-to-gguf/speculative-decoding.md): Spekulatives Decodieren mit llama-server, llama.cpp, vLLM und mehr für 2x schnellere Inferenz - [Leitfaden für vLLM-Bereitstellung & Inferenz](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/vllm-guide.md): Leitfaden zum Speichern und Bereitstellen von LLMs in vLLM für das Serving von LLMs in der Produktion - [vLLM-Engine-Argumente](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/vllm-guide/vllm-engine-arguments.md) - [Leitfaden zum Hot-Swapping von LoRA](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/vllm-guide/lora-hot-swapping-guide.md) - [Modelle in Ollama speichern](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/saving-to-ollama.md) - [Modelle in LM Studio bereitstellen](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/lm-studio.md): Modelle in GGUF speichern, damit du sie in LM Studio ausführen und bereitstellen kannst - [Wie man die LM Studio CLI im Linux-Terminal installiert](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/lm-studio/how-to-install-lm-studio-cli-in-linux-terminal.md): Leitfaden zur Installation der LM Studio CLI ohne UI in einer Terminal-Instanz. - [Leitfaden für SGLang-Bereitstellung & Inferenz](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/sglang-guide.md): Leitfaden zum Speichern und Bereitstellen von LLMs in SGLang für das Serving von LLMs in der Produktion - [Unsloth Inferenz](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/unsloth-inference.md): Erfahre, wie du dein feinabgestimmtes Modell mit Unsloths schneller Inferenz ausführst. - [Leitfaden zur Bereitstellung von llama-server & OpenAI-Endpunkt](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/llama-server-and-openai-endpoint.md): Bereitstellung über llama-server mit einem OpenAI-kompatiblen Endpunkt - [Wie man LLMs auf deinem iOS- oder Android-Telefon ausführt und bereitstellt](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/deploy-llms-phone.md): Tutorial zum Feinabstimmen deines eigenen LLMs und zur Bereitstellung auf deinem Android- oder iPhone mit ExecuTorch. - [Fehlerbehebung bei der Inferenz](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/troubleshooting-inference.md): Wenn du Probleme beim Ausführen oder Speichern deines Modells hast. - [Bereitstellung von LLMs mit Hugging Face Jobs](https://unsloth.ai/docs/de/grundlagen/inference-and-deployment/deploying-llms-with-hugging-face-jobs.md): Verwendung von Hugging Face Jobs und Skills zum Fine-Tuning von LFM mit Codex / Claude Code mit einem SKILL. - [So führen Sie lokale LLMs mit Claude Code aus](https://unsloth.ai/docs/de/grundlagen/claude-code.md): Leitfaden zur Verwendung offener Modelle mit Claude Code auf Ihrem lokalen Gerät. - [So führen Sie lokale LLMs mit OpenAI Codex aus](https://unsloth.ai/docs/de/grundlagen/codex.md): Verwenden Sie offene Modelle mit OpenAI Codex lokal auf Ihrem Gerät. - [Unsloth Dynamic NVFP4 – Ausführungsleitfaden](https://unsloth.ai/docs/de/grundlagen/nvfp4.md): Erfahren Sie, wie Unsloth Dynamic NVFP4 schnelle, präzise 4-Bit-Inferenz auf NVIDIA-Blackwell-GPUs ermöglicht. - [Wie man Bild-Diffusionsmodelle lokal mit Unsloth ausführt](https://unsloth.ai/docs/de/grundlagen/diffusion-image.md) - [Modelle auf AMD-GPUs mit Unsloth trainieren und ausführen](https://unsloth.ai/docs/de/grundlagen/amd.md) - [So verwenden Sie MCP-Server mit lokalen LLMs](https://unsloth.ai/docs/de/grundlagen/mcp.md): Erfahren Sie anhand von Screenshots, wie Sie MCP-Server mit offenen KI-Modellen verbinden. - [Multi-GPU-Fine-Tuning mit Unsloth](https://unsloth.ai/docs/de/grundlagen/multi-gpu-training-with-unsloth.md): Erfahren Sie, wie Sie LLMs mit Unsloth auf mehreren GPUs feinabstimmen und parallelisieren. - [Multi-GPU-Fine-Tuning mit Distributed Data Parallel (DDP)](https://unsloth.ai/docs/de/grundlagen/multi-gpu-training-with-unsloth/ddp.md): Erfahren Sie, wie Sie das Unsloth-CLI verwenden, um mit Distributed Data Parallel (DDP) auf mehreren GPUs zu trainieren! - [Leitfaden zum Fine-Tuning von Embedding-Modellen mit Unsloth](https://unsloth.ai/docs/de/grundlagen/embedding-finetuning.md): Erfahren Sie, wie Sie Embedding-Modelle ganz einfach mit Unsloth feinabstimmen. - [MoE-Modelle mit Unsloth 12-mal schneller feinabstimmen](https://unsloth.ai/docs/de/grundlagen/faster-moe.md): Trainieren Sie MoE-LLMs lokal mit dem Unsloth-Leitfaden. - [Leitfaden zum Fine-Tuning von Text-to-Speech (TTS)](https://unsloth.ai/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md): Erfahren Sie, wie Sie TTS- und STT-Sprachmodelle mit Unsloth feinabstimmen. - [Leitfaden zum Tool-Calling für lokale LLMs](https://unsloth.ai/docs/de/grundlagen/tool-calling-guide-for-local-llms.md) - [Vision-Fine-Tuning](https://unsloth.ai/docs/de/grundlagen/vision-fine-tuning.md): Erfahren Sie, wie Sie Vision-/Multimodal-LLMs mit Unsloth feinabstimmen - [Fehlerbehebung & FAQs](https://unsloth.ai/docs/de/grundlagen/troubleshooting-and-faqs.md): Tipps zur Behebung von Problemen und häufig gestellte Fragen. - [Hugging Face Hub, XET-Debugging](https://unsloth.ai/docs/de/grundlagen/troubleshooting-and-faqs/hugging-face-hub-xet-debugging.md): Debugging, Fehlerbehebung bei hängengebliebenen und langsamen Downloads - [Chat-Vorlagen](https://unsloth.ai/docs/de/grundlagen/chat-templates.md): Lernen Sie die Grundlagen und Anpassungsoptionen von Chat-Vorlagen kennen, einschließlich Konversations-, ChatML-, ShareGPT- und Alpaca-Formaten und mehr! - [Unsloth-Umgebungsflags](https://unsloth.ai/docs/de/grundlagen/unsloth-environment-flags.md): Erweiterte Flags, die nützlich sein können, wenn Ihre Feinabstimmungen fehlschlagen oder Sie bestimmte Funktionen deaktivieren möchten. - [Fortgesetztes Pretraining](https://unsloth.ai/docs/de/grundlagen/continued-pretraining.md): Auch bekannt als fortgesetztes Fine-Tuning. Unsloth ermöglicht Ihnen das kontinuierliche Vortrainieren, damit ein Modell eine neue Sprache lernen kann. - [Fine-Tuning vom letzten Checkpoint aus](https://unsloth.ai/docs/de/grundlagen/finetuning-from-last-checkpoint.md): Checkpointing ermöglicht es Ihnen, Ihren Fine-Tuning-Fortschritt zu speichern, damit Sie pausieren und später fortfahren können. - [Unsloth-Benchmarks](https://unsloth.ai/docs/de/grundlagen/unsloth-benchmarks.md): Unsloth erfasste Benchmarks auf NVIDIA-GPUs. --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://unsloth.ai/docs/de/grundlagen.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.