> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle/deepseek-v4.md). # DeepSeek-V4: Wie man lokal ausführt Führe DeepSeek-V4-Pro-0813 und DeepSeek-V4-Flash-0731 lokal auf deinem eigenen Gerät aus! DeepSeek-V4, DeepSeek-V4-Flash-Vision-Exp, V4-**Pro-0813**, und V4-**Flash-0731** sind neue Open-Weight-Modelle – die Flash-Variante hat 284B Parameter (13B aktiv), während V4-Pro 1,6T (49B aktiv) hat. **V4-Pro-0813**, veröffentlicht am **13. Aug.**, erreicht die Leistung von Claude-4.8-Opus, während **V4-Flash-0731**, veröffentlicht am **31. Juli**, liefert die beste Leistung seiner Größenklasse und **übertrifft V4-Pro** (Vorschau). Entwickelt für Coding-, Agentic- und Chat-Workflows mit einem **Kontextfenster von 1 Mio.**, zeigt diese Anleitung, wie man DeepSeek-V4-Flash-0731 lokal mit Unsloth Dynamic GGUFs und [Unsloth Desktop](/docs/de/desktop.md). Für **verlustfreies** DeepSeek, verwende Q8 (`UD-Q8_K_XL`), das nur **7 GB größer** als Q4 (`UD-Q4_K_XL`). Die verlustfreie 8-Bit-GGUF ist **162 GB** und 3-Bit ist **103 GB** die auf einem **110 GB RAM** Gerät**.** DeepSeek-V4-Flash-0731 erzielt 82,7 % auf Terminal Bench 2.1, 54,4 % auf DeepSWE und 54,2 % auf NL2Repo. [DSpark](#dspark-speculative-decoding) ist auch für GGUFs aktiviert und ermöglicht bis zu **2x schnellere Dekodiergeschwindigkeit**! {% hint style="success" %} **31. Aug.:** DeepSeek-Flash-Vision-Exp ist jetzt verfügbar! **13. Aug.:** DeepSeek-**V4-Pro-0813** wurde veröffentlicht und [Quants sind jetzt](https://huggingface.co/unsloth/DeepSeek-V4-Pro-0813-GGUF) zum Ausführen verfügbar. {% endhint %} {% hint style="success" %} **6. Aug.: DSpark ist für DeepSeek-V4-Flash-0731 aktiviert – das ermöglicht 1,5- bis 1,9-mal schnellere Inferenz! DSpark wird automatisch aktiviert in** [**Unsloth**](#unsloth-studio-guide)**.** Wir haben auch die [DeepSeek-V4-Chat-Jinja-Vorlage](#deepseek-v4-chat-template-improvements), und über 4000 Gespräche getestet, um mit dem offiziellen Basiswert gleichwertig zu sein. {% endhint %} | [DeepSeek-V4-Pro-0813-GGUF](https://huggingface.co/unsloth/DeepSeek-V4-Pro-0813-GGUF) | [DeepSeek-V4-Flash-**0731**-GGUF](https://huggingface.co/unsloth/DeepSeek-V4-Flash-0731-GGUF) | [DeepSeek-V4-Flash-GGUF](https://huggingface.co/unsloth/DeepSeek-V4-Flash-GGUF) | | ------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------- | ------------------------------------------------------------------------------- | Nutzungsleitfaden Anleitungen zum Ausführen ### 📊 Quantisierungsanalyse Unser `UD-Q8_K_XL` Quant ist vollständig verlustfrei. DeepSeek-V4-Flash ist [quantisierungsbewusst trainiert](/docs/de/blog/quantization-aware-training-qat.md): Der offizielle Checkpoint speichert seine gerouteten Experten (96 % des Modells) nativ in MXFP4 und alles andere in FP8 oder BF16. GGUFs MXFP4 ist genau dieses Format, daher packen wir die Experten bitgenau neu, und FP8 dequantisiert ohne Rundung in BF16. Wir haben jedes Tensor gegen die offiziellen DeepSeek-Gewichte geprüft: alle 1.328 sind bitidentisch, und es bleibt bei der Inferenz verlustfrei (KL-Divergenz \~0, 100 % Übereinstimmung des Top-Tokens). **Nicht**-Unsloth DeepSeek-V4-Flash-GGUFs wurden ohne diese Pfade konvertiert und weichen daher von den offiziellen Gewichten ab. `UD-Q4_K_XL` behält dieselben bitgenauen Experten bei und quantisiert nur die Nicht-Experten-Tensoren (4 % des Modells) auf Q8\_0, sodass es bei Größe und Qualität direkt neben Q8 liegt.

Gemessen an den offiziellen Gewichten liegen beide Unsloth-Quants an der Qualitäts-/Größen-Grenze. UD-Q8\_K\_XL ist der einzige verlustfreie Punkt. UD-Q4\_K\_XL entspricht anderen Community-MXFP4-Formaten und ist genauer als die Q4\_K-Experten-Konvertierungen, die größer sind, aber bei 0,029 KLD landen.

Die Fehlerverteilung pro Schicht zeigt, warum. Die nativen MXFP4-Experten beizubehalten bedeutet 0 % Gewichtsfehler in jeder Schicht. Konvertierungen, die die Experten auf Q4\_K oder IQ2\_XXS neu quantisieren, runden fast jedes Gewicht: 5 % für Q4\_K, über 30 % für IQ2\_XXS.

Unser MXFP4 hat bei allen 8,4 Mio. Gewichten exakt null Fehler, während Q4_K, ein anderes 4-Bit-Gitter, jedes einzelne runden muss (5,2 % RMSE).

Wir haben auch festgestellt, dass die Verwendung von Q8\_0 und F16 für einige Tensoren nicht verlustfrei ist, und es wird noch schlechter, da DeepSeek QAT angewendet hat, damit MXFP4 / FP8 gut funktionieren, also mussten wir sie direkt in BF16 belassen. Verwende also UD-Q8\_K\_XL für eine wirklich verlustfreie Quant, und UD-Q4\_K\_XL konvertiert einige der BF16-Elemente herunter nach Q8\_0. Für vollständige Benchmark-Tabellen von [GGUF-Benchmarks siehe hier](#gguf-benchmarks). ### :speech\_balloon: Verbesserungen der DeepSeek-V4-Chat-Vorlage Wir haben auch die DeepSeek-V4-Chat-Jinja-Vorlage verbessert und über 4000 Gespräche getestet, um mit der goldenen Baseline (offizielles DS4) gleichwertig zu sein. Wir haben hinzugefügt `reasoning_effort` und du kannst auswählen `max, high` genau wie beim offiziellen DeepSeek-V4. Wir stellen wie in DS4 den korrekten System-Prompt voran und folgen dem Stil von gpt-oss. Und bei Tool-Aufrufen, `reasoning_content` wurde für DS4 beibehalten, aber die Jinja-Chat-Vorlage würde sie ausschließen. Wir haben sie wieder hinzugefügt. #### **Den Denkmodus deaktivieren, den Reasoning-Aufwand ändern** DeepSeek-V4 verwendet standardmäßig Reasoning. Es unterstützt außerdem Reasoning-Aufwände, bei denen `reasoning_effort` kann "high", "max" oder deaktiviert sein. Um das Denken zu deaktivieren, verwende `--chat-template-kwargs '{"enable_thinking":false}'`. Wenn du auf **Windows** PowerShell bist, verwende: `--chat-template-kwargs "{\"enable_thinking\":false}"` Du kannst auch `--reasoning on` oder `--reasoning off` jetzt auch in llama.cpp verwenden! Für die Anpassung des Reasoning-Aufwands und/oder um Reasoning zu deaktivieren, verwende die folgenden Beispiele: ```bash --chat-template-kwargs '{"reasoning_effort":"max"}' --chat-template-kwargs '{"reasoning_effort":"high"}' --chat-template-kwargs '{"enable_thinking":false}' ``` ### ⚙️ Gebrauchsanleitung DeepSeek-V4-Flash ist kleiner und schneller als DeepSeek-V4-Pro, mit **284B** Parametern (13B aktiv) und einem **Kontextfenster von 1 Mio.**. Das Modell hat 3 Modi, **Nicht-denken**, **Denken** **High** und **Denken** **Max**. Es wird empfohlen, zu verwenden `UD-IQ3_XXS` das ist **103 GB** für beste Ergebnisse. Da die Dateigröße den KV-Cache und die Kontextzuweisung nicht umfasst, solltest du versuchen, mindestens **110 GB RAM** zum Ausführen des Modells zu haben. Der `UD-Q8_K_XL` Quant ist DeepSeek-V4-Flash in voller Originalpräzision. Es hat eine Größe von 162 GB und es ist am besten, mindestens 169 GB verfügbaren RAM/VRAM zu haben. **Tabelle: Hardware-Anforderungen für die Inferenz** (Einheiten = Gesamtspeicher: RAM + VRAM oder Unified Memory)

Format	1-Bit	2-Bit	3-Bit	4-Bit (nahezu verlustfrei)	Q8_K_XL (verlustfrei)
Standard	92 GB	102 GB	110-135 GB	162 GB	169 GB
DSpark	102 GB	112 GB	120-145 GB	172 GB	179 GB

{% hint style="info" %} **DSpark benötigt mehr VRAM als Standard**, also plane mit **\~10 GB** zusätzlichem RAM/VRAM-Spielraum. {% endhint %} {% hint style="success" %} Für die beste Leistung stelle sicher, dass dein gesamter verfügbarer Speicher, einschließlich VRAM und Systemspeicher, die Dateigröße des quantisierten Modells deutlich übersteigt. {% endhint %} ### Empfohlene Einstellungen DeepSeek empfiehlt diese Parameter für die beste Leistung: `temperature = 1.0`, `top-p = 1.0`. Für **DeepSeek-V4-Flash-0731** und agentische Szenarien, `top-p = 0.95` wird stattdessen empfohlen und `top-p = 1.0` für andere Aufgaben. **Think High ist standardmäßig aktiviert.** Wenn deaktiviert, kannst du es über Folgendes aktivieren: `--chat-template-kwargs '{"enable_thinking":true}'` oder es über das UI-Dropdown umschalten in [Unsloth](#unsloth-studio-guide). Siehe auch [#deepseek-v4-chat-template-improvements](#deepseek-v4-chat-template-improvements "mention") {% columns %} {% column width="50%" %} | DeepSeek-V4-Flash-0731 | | ------------------------------ | | `temperature = 1.0` | | `top-p = 1.0` | | `top-p = 0.95` (nur agentisch) | | {% endcolumn %} | {% column width="50%" %} | Altes DeepSeek-V4-Flash und V4-Pro | | ---------------------------------- | | `temperature = 1.0` | | `top-p = 1.0` | | {% endcolumn %} | | {% endcolumns %} | * **Maximales Kontextfenster:** `1,048,576` * Für Think Max setze den Kontext auf mindestens **384K Tokens**. ## DeepSeek-V4-Flash-Anleitungen ausführen: Für dieses Tutorial verwenden wir die 3-Bit-Quant `UD-IQ3_XXS`, da sie auf ein Gerät mit 128 GB RAM passt. Ersetze `UD-IQ3_XXS` mit `UD-Q8_K_XL` (Originalqualität) oder eine andere Quant, wenn dein Rechner genug Speicher hat. Du kannst DeepSeek-V4-Flash-0731 jetzt in [Unsloth Desktop](#run-in-unsloth-studio) . **DSpark wird automatisch aktiviert in** [**Unsloth**](#unsloth-studio-guide)**.** 🦥 Unsloth-Leitfaden 🦙 Llama.cpp-Leitfaden ⚡DSpark-Anleitung ### 🦥 Unsloth-Leitfaden DeepSeek-V4-Flash-0731 kann jetzt ausgeführt und trainiert werden in [Unsloth](/docs/de/neu/studio.md), unserer neuen Open-Source-Oberfläche für lokale KI. Mit Unsloth Desktop kannst du Modelle lokal ausführen auf **macOS**, **Windows**, Linux und: {% columns %} {% column %} * Suchen, herunterladen, [GGUFs ausführen](/docs/de/neu/studio.md#run-models-locally) und Safetensor-Modelle * [**Selbstheilend** Tool-Aufrufe](/docs/de/neu/studio.md#execute-code--heal-tool-calling) + **Websuche** * [**Codeausführung**](/docs/de/neu/studio.md#run-models-locally) (Python, Bash) * [Automatische Inferenz](https://unsloth.ai/docs/desktop#feature-deep-dive) Abstimmung der Parameter (Temp., Top-p usw.) * Schnelle CPU- + GPU-Inferenz über llama.cpp * [LLMs trainieren](/docs/de/neu/studio.md#no-code-training) 2x schneller mit 70 % weniger VRAM {% endcolumn %} {% column %}

{% endcolumn %} {% endcolumns %} {% stepper %} {% step %} #### Unsloth installieren Der einfachste Einstieg ist das Herunterladen der [Unsloth-Desktop-App](/docs/de/desktop.md). Funktioniert auf [macOS](/docs/de/loslegen/install/mac.md), [Windows](/docs/de/loslegen/install/windows-installation.md), und [Linux](/docs/de/loslegen/install/linux.md). Unsloth herunterladen * [Für macOS herunterladen](https://unsloth.ai/download/mac) * [Für Windows herunterladen](https://unsloth.ai/download/windows) * [Für Linux herunterladen](https://unsloth.ai/download/linux) Oder, wenn du lieber manuell installieren möchtest: macOS, Linux, WSL: ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` Windows PowerShell: ```bash irm https://unsloth.ai/install.ps1 | iex ``` {% endstep %} {% step %} #### DeepSeek-V4-Flash suchen und herunterladen Gehe zu [Unsloth Chat](/docs/de/neu/studio/chat.md) oder Model Hub und suche in der Suchleiste nach DeepSeek-V4-Flash, um das gewünschte Modell und die gewünschte Quant herunterzuladen.

{% endstep %} {% step %} #### DeepSeek-V4-Flash-0731 ausführen Die Inferenzparameter sollten bei der Verwendung von Unsloth automatisch gesetzt werden, du kannst sie jedoch weiterhin manuell ändern. Da **Think High standardmäßig aktiviert ist**, kannst du im rechten Dropdown auf Nicht-denken oder Think Max umschalten. Du kannst auch die Kontextlänge, die Chat-Vorlage und andere Einstellungen bearbeiten. **DSpark wird automatisch aktiviert in** [**Unsloth**](#unsloth-studio-guide)**.** Für weitere Informationen können Sie unseren [Unsloth-Inferenzleitfaden](/docs/de/neu/studio/chat.md).

{% endstep %} {% step %} #### DeepSeek-V4 mit der Unsloth-API bereitstellen Sie können `unsloth run` Befehl und stelle DeepSeek über eine API bereit mit `llama-server` Laufzeit-Flags, einschließlich Kontextgröße, GPU-Ebenen, Threading, Sampling, Netzwerk und Werkzeugkonfiguration. Weitere Informationen finden Sie in unserer [API-Dokumentation](/docs/de/grundlagen/api.md) oder [unsloth start](/docs/de/integrationen/unsloth-start.md). ```bash unsloth run --model unsloth/DeepSeek-V4-Flash-0731-GGUF:UD-IQ3_S ``` {% endstep %} {% step %} #### Unsloth ist jetzt bereit Du kannst mit DeepSeek über Unsloth Desktop auch viele andere Dinge tun, wie zum Beispiel: * **Tools verbinden:** [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md), [Websuche](/docs/de/neu/studio/chat.md#advanced-web-search), [MCP](/docs/de/grundlagen/mcp.md) und mehr * **Modelle trainieren:** Text, Diffusion feinabstimmen, [Embedding](/docs/de/grundlagen/embedding-finetuning.md)und mehr * **Medien generieren:** Erstellen und trainieren [Bilder](/docs/de/grundlagen/diffusion-image.md), Video, [TTS](/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md) lokal {% endstep %} {% endstepper %} ### 🦙 Llama.cpp-Leitfaden {% stepper %} {% step %} Holen Sie sich die neueste `llama.cpp` **auf** [**hier auf GitHub**](https://github.com/ggml-org/llama.cpp). Sie können auch die folgenden Build-Anweisungen befolgen. Ändern Sie `-DGGML_CUDA=ON` zu `-DGGML_CUDA=OFF` wenn Sie keine GPU haben oder nur CPU-Inferenz möchten. **Für Apple-Mac-/Metal-Geräte**, setzen Sie `-DGGML_CUDA=OFF` und fahren Sie dann wie gewohnt fort – Metal-Unterstützung ist standardmäßig aktiviert. ```bash apt-get update apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y git clone https://github.com/ggml-org/llama.cpp cmake llama.cpp -B llama.cpp/build \\ -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split cp llama.cpp/build/bin/llama-* llama.cpp ``` {% endstep %} {% step %} Du kannst jetzt `llama.cpp` direkt verwenden, um Modelle zu laden und herunterzuladen, genau wie `ollama run`Bevorzugst du zunächst den gewünschten Quantisierungstyp wie `IQ3_XXS`. Verwende auch `export LLAMA_CACHE="folder"` um zu erzwingen `llama.cpp` um an einem bestimmten Ort zu speichern. Beachte, dass dieser Downloadvorgang sehr langsam sein kann, daher ist es wahrscheinlich am besten, im nächsten Abschnitt den manuellen Downloadvorgang zu verwenden. ```bash export LLAMA_CACHE="unsloth/DeepSeek-V4-Flash-0731-GGUF" ./llama.cpp/llama-cli \\ -hf unsloth/DeepSeek-V4-Flash-0731-GGUF:UD-IQ3_S \\ --temp 1.0 \\ --top-p 1.0 \\ --min-p 0.01 ``` {% endstep %} {% step %} Wenn du das Modell manuell herunterladen möchtest, können wir das Modell über den folgenden Code herunterladen (nach der Installation von `pip install huggingface_hub`). Wenn Downloads hängen bleiben, siehe: [Hugging Face Hub, XET-Debugging](/docs/de/grundlagen/troubleshooting-and-faqs/hugging-face-hub-xet-debugging.md) ```bash hf download unsloth/DeepSeek-V4-Flash-0731-GGUF \\ --local-dir unsloth/DeepSeek-V4-Flash-0731-GGUF \\ --include "*UD-IQ3_S*" # Verwende "*UD-IQ4_XS*" für 4-Bit ``` {% endstep %} {% step %} Du kannst `--threads 32` für die Anzahl der CPU-Threads, `--ctx-size 32768` für die Kontextlänge, `--n-gpu-layers 2` für GPU-Offloading auf wie viele Layer. Versuche, ihn anzupassen, wenn deiner GPU der Speicher ausgeht. Entferne ihn auch, wenn du nur CPU-Inferenz hast. {% code overflow="wrap" %} ```bash ./llama.cpp/llama-cli \\ --model unsloth/DeepSeek-V4-Flash-0731-GGUF/UD-IQ3_S/DeepSeek-V4-Flash-0731-UD-IQ3_S-00001-of-00004.gguf \\ --temp 1.0 \\ --top-p 1.0 \\ --min-p 0.01 ``` {% endcode %} {% endstep %} {% endstepper %} ## :zap:DSpark - Spekulatives Decoding DeepSeek-V4-Flash-0731 hat natives DSpark, was bis zu **2x schnellere Dekodiergeschwindigkeit**! DSpark ist ein neuer Algorithmus von DeepSeek, der überlegen gegenüber naivem MTP ist, und wurde in diesem [Paper](https://arxiv.org/abs/2607.05147). DSpark ermöglicht DeepSeek-V4-Flash, zu erreichen **120 Tokens/s** auf einer B200-GPU im Vergleich zur ursprünglichen Basis von 60 Tokens/s. **DSpark wird automatisch aktiviert in der** [**Unsloth**](#unsloth-studio-guide) **lokalen UI.** Llama.cpp integrierte DSpark als Teil von [PR 25784](https://github.com/ggml-org/llama.cpp/pull/25784) mit weiteren Verbesserungen für Multi-GPU und mehr. Wir zeigen die Verwendung von `--spec-draft-n-max 3` als guten Standard, wodurch 1,9x schnellere Inferenzgeschwindigkeit möglich ist. Größere Werte scheinen langsamer zu sein.

Lade sowohl den Drafter als auch die GGUF herunter – wir haben zwei Q8\_0 und die verlustfreie BF16-Version erstellt. Beachte, dass DSpark etwa 10 GB mehr Speicher benötigt, daher brauchen 128-GB-Rechner IQ3\_XXS und Q8\_0 {% code overflow="wrap" %} ```bash hf download unsloth/DeepSeek-V4-Flash-0731-GGUF \\ --local-dir unsloth/DeepSeek-V4-Flash-0731-GGUF \\ --include "*dspark-DeepSeek-V4-Flash-0731-Q8_0*" \\ --include "*UD-IQ3_XXS*" # Verwende "*UD-IQ4_XS*" für 4-Bit ``` {% endcode %} Dann lade es über llama-cli oder llama-server: {% code overflow="wrap" %} ```bash ./llama.cpp/llama-cli \\ --model unsloth/DeepSeek-V4-Flash-0731-GGUF/UD-IQ3_XXS/DeepSeek-V4-Flash-0731-UD-IQ3_XXS-00001-of-00004.gguf \\ -md unsloth/DeepSeek-V4-Flash-0731-GGUF/dspark-DeepSeek-V4-Flash-0731-Q8_0.gguf \\ --temp 1.0 \\ --top-p 1.0 \\ --min-p 0.01 \\ --spec-type draft-dspark \\ --spec-draft-n-max 3 \\ -ngl 99 -ngld 99 ``` {% endcode %} Benchmarks aus dem ursprünglichen DSpark-Paper, die ebenfalls zeigen, wie es sich gegen MTP schlägt:

## 📊 Benchmarks ### GGUF-Benchmarks Siehe unten eine Tabelle, die Benchmarks für Quants von Unsloth und anderen Anbietern vergleicht. Referenz = offizielle Gewichte. Perplexity und KL-Divergenz über wikitext-2 bei ctx 512 auf 4x B200.

| Quant | Größe (GB) | PPL | Mittlere KLD | RMS delta-p | Gleiches Top-Token | Bitgenaue Gewichte | | ------------------------------------- | ---------- | ------ | --------------------- | ----------- | ------------------ | ------------------ | | Offiziell (Referenz) | 156.4 | 4.5319 | 0 | 0% | 100% | 100% | | **Unsloth UD-Q8\_K\_XL** | 161.9 | 4.5319 | **\~0 (verlustfrei)** | 0.000% | 100.000% | **100.000%** | | **Unsloth UD-Q4\_K\_XL** | 155.1 | 4.5335 | 0.0102 | 3.40% | 96.28% | 97.46% | | bartowski MXFP4 | 156.0 | 4.5351 | 0.0105 | 3.42% | 96.18% | 97.57% | | antirez Q4KExperts-F16 (imatrix) | 164.6 | 4.5743 | 0.0291 | 5.87% | 93.95% | 0.51% | | antirez Q4KExperts-F16 | 164.6 | 4.5726 | 0.0290 | 5.89% | 93.94% | 0.93% | | antirez gemischt L37-42-Q4K (imatrix) | 97.6 | 5.8169 | 0.3605 | 21.15% | 79.74% | 0.41% | | antirez IQ2XXS (imatrix) | 86.7 | 6.0808 | 0.4079 | 22.23% | 78.15% | 0.39% | | antirez IQ2XXS | 86.7 | 6.1518 | 0.4207 | 22.74% | 77.92% | 0.47% | ### Offizielle Benchmarks DeepSeek-V4-Flash-0731 übertrifft DeepSeek-V4-Pro (Vorschau) in den untenstehenden Benchmarks, obwohl es deutlich weniger aktivierte Parameter verwendet, und bleibt mit führenden proprietären Modellen konkurrenzfähig. | Benchmark | DeepSeek-V4-Flash-0731 | DeepSeek-V4-Flash (Vorschau) | DeepSeek-V4-Pro (Vorschau) | GLM-5.2 | Opus-4.8 | | ---------------------- | :--------------------: | :--------------------------: | :------------------------: | :-----: | :------: | | Terminal Bench 2.1 | 82.7 | 61.8 | 72.1 | 81.0 | 85.0 | | NL2Repo | 54.2 | 39.4 | 38.5 | 48.9 | 69.7 | | Cybergym | 76.7 | 38.7 | 52.7 | - | 83.1 | | DeepSWE | 54.4 | 7.3 | 12.8 | 46.2 | 58.0 | | Toolathlon-Verified | 70.3 | 49.7 | 55.9 | 59.9 | 76.2 | | Agents' Last Exam | 25.2 | 15.8 | 16.5 | 23.8 | 25.7 | | AutomationBench Public | 25.1 | 10.8 | 12.8 | 12.9 | 27.2 | | DSBench-FullStack † | 68.7 | 37.0 | 41.8 | 61.8 | 71.6 | | DSBench-Hard † | 59.6 | 25.8 | 31.1 | 54.5 | 71.7 | --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation by asking a question. Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters: ``` GET https://unsloth.ai/docs/de/modelle/deepseek-v4.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.