> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/moderu/deepseek-v4.1-flash.md).

# DeepSeek-V4.1-Flash: ローカル実行ガイド

Unsloth GGUFとEngramのn-gramオフロードを使って、DeepSeek-V4.1-Flash-1017をローカルで実行します。

**DeepSeek-V4.1-Flash-1017** はV4.1-Flashの新しいアップデートであり、これを **最強の** コーディング、エージェント型タスクなどにおける現在までで最強のオープンモデルにします。1Mコンテキストを備え、その **552B** バックボーン + **196B Engram** パラメータは、RAM/VRAMの必要量を減らすSSDオフロードをサポートします。このガイドでは、Unsloth [Dynamic V3.1](#dynamic-v3.1-update-october-30th-2026) GGUFを使ってDeepSeek-V4.1をローカルで実行する方法を紹介します。これは **精度が10～15%向上し** かつ **トークン使用量が30%少ない** 同サイズの他の量子化モデルと比べて。

[Unsloth Desktop](/docs/jp/desktop.md) + llama.cppにより約**3倍高速な** 他のCPU/VRAM/ngramリポジトリよりも高速なDeepSeek-V4.1推論を実現します。DeepSeekは128GB以上のRAM構成、または64GB RAM（低速）でローカル実行できます。 `UD-Q8_K_XL` （ロスレス）は **508.4 GB**、一方 `UD-Q4_K_XL` （ほぼロスレス）は **500.7 GB**です。GGUF： [**DeepSeek-V4.1-Flash-1017-GGUF**](https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF)

<a href="/pages/7ddff7964c918a6bb834c6963979e70a01021c2a#run-deepseek-v4.1-flash-1017-tutorials" class="button primary">DeepSeek-V4.1チュートリアルを実行</a>

### Dynamic V3.1アップデート（2026年11月2日）

新しいDeepSeek-V4.1-Flash-1017 GGUFをリリースします。これには新しい [**Unsloth Dynamic**](/docs/jp/ji-chu/dynamic-3.0-ggufs.md) **V3.1（プレビュー）アルゴリズム** を使用しており、ほぼすべてのベンチマークでUnsloth量子化モデルを改善し、他のプロバイダーと比べて最高クラスです。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FXC2NHQCS4KKsMoY4IjpT%2Fimage.png?alt=media&amp;token=67fb9d55-8fbb-4f35-a13f-83465cee8475" alt="" width="563"><figcaption></figcaption></figure>

ISTAのCoderモデルもベンチマークすると、枝刈りされたCoderモデルはエージェント型タスクで大幅に悪化することが分かります。Aider Polyglotでは精度47.6%に対して78.2%となり、サイズは20%しか小さくありません。これは部分的には、サイズを1%減らすごとに精度が約1%低下することを意味します。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fe3HYFau6qEpkFwkLVwru%2FCoder%20benchmark.png?alt=media&amp;token=59e2ab09-3f42-4226-bd03-3b5a8d109e6a" alt="" width="563"><figcaption></figcaption></figure>

**Terminal Bench 2.1、DeepSWE v1.1を含むエージェント型ベンチマークを実施しました。** Automation Bench v1.0.6、Aider Polyglot、およびSciCode、HLE Diamond（テキストのみ）、LiveCodeBench v6、GPQA Diamond、MMLU-Pro、AIME25、IFEval、MATH-500（レベル5）、HMMT 2025、HMMT 2026といった一般ベンチマークです。これらの新しいベンチマークについて指摘されていた問題の一部に対処しました：

* 32Kコンテキストは短すぎました。そのため **エージェント型では512Kコンテキスト** + 一般タスクでは128K
* 飽和したベンチマーク ― 新しい **飽和していないエージェント型のもの** Terminal Bench、DeepSWE、Automation Benchを含む
* ベンチマークにはノイズがあります。そのため **以前の1.3Bに対して35.1Bトークンのベンチマークを実施し、データ量は27倍になりました**。こちらを参照： [#benchmark-runs-per-model](#benchmark-runs-per-model "mention") AIME 2025を64回、DeepSWEを3回、TBを3回実行するなどしました。
* 採点器が間違っている ― 次を使用しました： [Math Verify](https://huggingface.co/blog/math_verify_leaderboard)、改善済みの採点器、HLEにはgpt-6-luna xhigh、Terminal Bench（Harbor）、DeepSWEおよびその他にはすべて公式採点器を使用しました。こちらを参照： [#graders](#graders "mention") かつ [#infrastructure-and-benchmark-issues-and-fixes](#infrastructure-and-benchmark-issues-and-fixes "mention")

完全なベンチマーク結果も提供しています。最初のプロットはベースラインからの精度回復率で、全14ベンチマークにわたる平均値（重み付けなし）です。これはおおよそ、各量子化モデルがDeepSeekベースラインと比較してどの程度精度を保持しているかを示す指標です。

弊社の [ベンチマークの詳細な内訳については、こちらを参照してください。](#gguf-benchmark-breakdown)

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FQumjSkZM3UWgSRSa5taa%2Fimage.png?alt=media&amp;token=23092c27-abae-4376-b44a-7ae91f918705" alt=""><figcaption></figcaption></figure>

#### 依然としてGSQ-RCOの回復率の数値を再現できません

GSQ-RCO IQ1\_Mは98.7%の回復率を主張していますが、弊社の測定では97.24 \[96.23, 98.21]であり、】【t\_b906ada1】 **p値は0.0013** （統計的に有意であり、したがって極めて起こりにくい）

GSQ-RCO IQ2\_XSが主張する100%の回復率は、p値0.21ではあり得ます。弊社の測定では98.38% \[97.52, 99.22]でした。

GSQ-RCO IQ2\_XXSは99.80%の回復率を主張していますが、弊社の測定では98.38 \[97.52, 99.22]であり、 **p値は0.0001（極めて有意）**.

弊社の測定と直接比較して検証した主張回復率（カードの定義：3スコアの合計 / ベースの合計、対公式FP8/FP4）：p（損失なし）= 回復率 = 100%に対する対応符号反転置換検定、p（回復率 >= 主張値）= 問題ごとの片側対応ブートストラップ。

|                  | 主張された回復率 |     測定された回復率 \[95% CI] | p（損失なし） | p（回復率 >= 主張値） |
| ---------------- | -------: | ---------------------: | ------: | ------------: |
| GSQ-RCO IQ1\_M   |    98.70 |  97.24 \[96.23, 98.21] | 0.00002 |        0.0013 |
| GSQ-RCO IQ2\_XXS |   100.00 |  98.38 \[97.52, 99.22] |  0.0003 |        0.0001 |
| GSQ-RCO IQ2\_XS  |    99.80 | 99.54 \[98.88, 100.18] |    0.16 |          0.21 |

ベンチマークごとの主張回復率と真の回復率。すべて公式FP8/FP4（カードのベースライン）との比較です。主張値 = カードスコア / カードベース、真値 = 問題ごとの12～64サンプルの弊社平均 / 同一問題における公式モデルの平均であり、対応95%ブートストラップCIを使用します。p（真値 >= 主張値）：片側対応ブートストラップで、真の回復率が主張値に達する確率です。p（損失なし）：真の回復率 = 100%に対する両側対応置換検定（各問題の量子化モデル / 公式モデルのペアをランダムに交換）。同程度のサイズで比較する参考として、Unsloth量子化モデル（測定値のみ）も示しています。

| モデル              |              |                  AIME25 |                  GPQA-D |                  LCB v6 |          3ベンチマーク（カード定義） |
| ---------------- | ------------ | ----------------------: | ----------------------: | ----------------------: | ----------------------: |
| GSQ-RCO IQ1\_M   | 主張値（カード）     |                  100.00 |                   97.22 |                   98.73 |                   98.69 |
|                  | 真値（測定値）      |   98.37 \[97.06, 99.53] |   96.83 \[94.60, 98.89] |   96.44 \[94.69, 98.08] |   97.24 \[96.24, 98.21] |
|                  | p（真値 >= 主張値） |                  0.0028 |                    0.38 |                  0.0027 |                  0.0014 |
|                  | p（損失なし）      |                   0.019 |                  0.0041 |                 <0.0001 |                 <0.0001 |
| GSQ-RCO IQ2\_XXS | 主張値（カード）     |                  100.00 |                  100.00 |                  100.00 |                  100.00 |
|                  | 真値（測定値）      |  99.53 \[98.84, 100.21] |   97.73 \[95.80, 99.61] |   97.80 \[96.08, 99.39] |   98.38 \[97.52, 99.23] |
|                  | p（真値 >= 主張値） |                     0.1 |                  0.0092 |                  0.0027 |                 <0.0001 |
|                  | p（損失なし）      |                    0.25 |                   0.022 |                  0.0085 |                 0.00025 |
| GSQ-RCO IQ2\_XS  | 主張値（カード）     |                  100.00 |                   99.44 |                  100.00 |                   99.82 |
|                  | 真値（測定値）      |  99.58 \[98.53, 100.47] |  99.45 \[98.12, 100.73] |  99.58 \[98.47, 100.70] |  99.54 \[98.88, 100.17] |
|                  | p（真値 >= 主張値） |                    0.21 |                    0.51 |                    0.24 |                    0.19 |
|                  | p（損失なし）      |                    0.48 |                    0.43 |                    0.52 |                    0.17 |
| UD IQ1\_S        | 真値（測定値）      |  99.58 \[98.96, 100.21] |   97.42 \[95.41, 99.39] | 100.21 \[99.03, 101.38] |   99.08 \[98.29, 99.85] |
|                  | p（損失なし）      |                    0.26 |                   0.011 |                    0.73 |                   0.023 |
| UD IQ1\_M        | 真値（測定値）      |  99.68 \[98.94, 100.42] |   98.37 \[96.95, 99.76] | 100.37 \[99.15, 101.61] |  99.48 \[98.82, 100.14] |
|                  | p（損失なし）      |                    0.52 |                   0.025 |                    0.56 |                    0.13 |
| UD IQ2\_XXS      | 真値（測定値）      | 100.00 \[99.32, 100.58] |  99.53 \[98.36, 100.68] | 100.47 \[99.27, 101.74] | 100.00 \[99.40, 100.58] |
|                  | p（損失なし）      |                       1 |                    0.45 |                    0.46 |                       1 |
| UD Q2\_K\_XL     | 真値（測定値）      |  99.79 \[99.16, 100.37] |  99.74 \[98.69, 100.77] | 100.89 \[99.90, 101.93] | 100.13 \[99.63, 100.65] |
|                  | p（損失なし）      |                    0.63 |                    0.66 |                   0.076 |                    0.62 |
| UD-Q8\_K\_XL     | 真値（測定値）      |  99.47 \[97.94, 100.53] | 100.28 \[99.52, 101.09] | 100.89 \[99.95, 101.95] | 100.19 \[99.53, 100.77] |
|                  | p（損失なし）      |                    0.73 |                    0.48 |                   0.084 |                    0.59 |

#### GSQ-RCO IQ1\_Mが誤答したAIME 2025の問題

GSQ-RCO IQ1\_MはAIME 2025で97.34%を記録しています（1,920サンプル中51件の誤答、問題ごとに64件）。30問中15問で少なくとも1サンプルを落としているため、単発実行で30/30となる確率は約43%です。すべての誤答は実際に誤った値です（2件は最終回答なしで128K上限に達しました）。参考として、同じ問題における他モデルの正答数：

| 問題（解答）   | GSQ IQ1\_Mの誤答 / サンプル | 出力された誤答                                           | 公式モデルの正答 | UD-Q8\_K\_XLの正答 | UD IQ1\_Sの正答 | GSQ IQ2\_XSの正答 |
| -------- | -------------------: | ------------------------------------------------- | -------: | --------------: | -----------: | -------------: |
| Q15（735） |                 9/64 | 637 x2、833 x2、271、636、613、52、539                  |    31/32 |           60/64 |        59/64 |          56/64 |
| Q28（248） |                 8/64 | 888, 256, 608, 808, 632, 592, 136, 448            |    31/32 |           63/64 |        60/64 |          64/64 |
| Q22（237） |                 6/64 | 57, 993, 945, 249, 473, 125                       |    32/32 |           63/64 |        62/64 |          64/64 |
| Q13（204） |                 5/64 | \frac{587}{3}、154、\frac{662}{3}、\frac{562}{3}、179 |    31/32 |           64/64 |        63/64 |          63/64 |
| Q24（149） |                 5/64 | 150 x4、145                                        |    30/32 |           48/64 |        63/64 |          55/64 |
| Q5（279）  |                 4/64 | 9 x2、135、423                                      |    32/32 |           63/64 |        63/64 |          63/64 |
| Q4（117）  |                 3/64 | 119 x3                                            |    31/32 |           64/64 |        62/64 |          64/64 |
| Q11（259） |                 2/64 | 23, 261                                           |    32/32 |           64/64 |        64/64 |          64/64 |
| Q14（60）  |                 2/64 | 最終回答なし（128K上限）x2                                  |    31/32 |           64/64 |        63/64 |          64/64 |
| Q18（82）  |                 2/64 | 106, 712                                          |    32/32 |           63/64 |        64/64 |          64/64 |
| Q2（588）  |                 1/64 | 1176                                              |    32/32 |           64/64 |        64/64 |          64/64 |
| Q3（16）   |                 1/64 | 520                                               |    31/32 |           63/64 |        62/64 |          63/64 |
| Q7（821）  |                 1/64 | 271                                               |    32/32 |           63/64 |        63/64 |          63/64 |
| Q19（106） |                 1/64 | 317                                               |    32/32 |           63/64 |        63/64 |          63/64 |
| Q29（104） |                 1/64 | 55                                                |    32/32 |           64/64 |        64/64 |          62/64 |

Q28とQ22は量子化による劣化です（IQ1\_Mは64件中8件と6件を落としますが、GSQ IQ2\_XSと公式モデルはほとんど落としません）。Q15とQ24はすべてのモデルにとって難問です（UD-Q8\_K\_XLのQ24正答は48/64で、149に対してしばしば150と回答します）。

### Dynamic V3.1アップデート（2026年10月30日）

UDv3およびUD3.1の全量子化モデルについて、AIME25、Aider Polyglot、LiveCodeBench v6、HMMT 2026、GPQA Diamond、MMLU-Pro、IFEvalなどを、全量子化モデルでAIME25の100%回復を主張するGSQ-RCO各種モデルと比較して実行しましたが、その数値は再現できませんでした。

6ベンチマークの完全平均を提供しています（Aider Polyglotを除外。Aiderを含めるとさらに顕著です）。UD3.1はほぼすべてのタスクで優れた結果を示しています。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FOuLKE4mwn1xkCJchptDN%2Ftotal_ista.png?alt=media&amp;token=cdc15dba-6b30-4ca3-8318-94138acf6d27" alt=""><figcaption></figcaption></figure>

#### GSQ-RCOの数値を再現できません

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FgEHmQB9WBKLJ1vMssB6N%2Fclaims_ista.png?alt=media&amp;token=838ee657-1085-4c00-bcdb-66abbe2862c1" alt=""><figcaption></figcaption></figure>

ISTA-DASLabが作成したGSQ-RCO DeepSeek-V4.1-Flash-1017量子化モデルは、すべての量子化モデルでAIME25のスコアが100%だったと述べています。しかし、これを再現できず、AIME25で複数回実行して平均すると、 **GSQ-RCOはベースラインの94.64%を保持しています（100%ではありません）**。また、手法の違いを考慮して、2番目のプロットではすべてのベースライン数値もスケーリングしました。

<div><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FMFdsiPUHkPAXMYPblKDx%2Fgsq_rco_claims_vs_true_bars(1).png?alt=media&amp;token=99b6f559-52fe-481f-911a-92b559cfd01f" alt=""><figcaption></figcaption></figure> <figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FDHa3imd8XoDXehkvATcC%2Fgsq_rco_claims_vs_true_bars_recovery.png?alt=media&amp;token=244b229c-1b23-47e3-bfa5-d0b9631f426b" alt=""><figcaption></figcaption></figure></div>

AIME25について、ISTAは3つすべての量子化モデルで100%の精度を報告しました。しかし、各量子化モデルについて問題ごとに16回、つまり30問 \* 16サンプル = 量子化モデルごとに480回答を、温度1.0、推論努力度50でテストしたところ、量子化モデルには明確な劣化が見られ、どのビット幅でも精度100%ではありませんでした。&#x20;

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FtcF0k9ss042lXLgvDyIt%2Faime25.png?alt=media&amp;token=8025e417-e669-43cb-bf8f-ce69a9254aca" alt="" width="375"><figcaption></figcaption></figure>

GSQ-RCOのベンチマークもREADME.mdに従い、推論努力度50で実施されています

#### KLDは妥当な指標です

近年、KLDは良い指標ではないという主張があります。KLダイバージェンス（KLD）は、量子化モデルの次トークン予測が、同じテキストに対する参照モデルの予測からどの程度乖離するかを測定します。

$$
\text{min  } D\_{KL} \large( \theta, \hat{\theta}\large)
$$

**量子化の主な目的は、量子化モデルのディスク容量を削減しつつ、KLDを0に最小化することです** （例えば、生成速度など他の最適化項目を含めることもできます）。

KLDが0であれば、モデルは出力ロジットを完全に再構成しており、量子化モデルは元のモデルと100%同じ出力を生成します。

GSQ-RCOは、弊社の旧Unsloth v3量子化モデルと比べても明らかにKLDが高く、top-1一致率が低いことが分かります。v3.1ではさらに改善されています。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F0YkDIvosvnP6nRVlhNy5%2FKLD%20ISTA.png?alt=media&amp;token=a4601232-2858-4b8d-a618-8991a48eeb6d" alt=""><figcaption></figcaption></figure>

KLDは、テストセット上で実行したり、1つのデータセットでKLDを実行したりして不正に「操作」またはベンチマーク最大化できるという意見があります。この理論を検証するため、複数のホールドアウトテストで実行し、UDv3.1がすべての領域でGSQ-RCOを上回ることを示します。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FBBJeFPqCiW0Al9IvGNsC%2Fsize_vs_kld_per_axis(2).png?alt=media&amp;token=08452280-2005-4fa9-bdc7-a37f162b49e7" alt=""><figcaption></figcaption></figure>

すべてのホールドアウトテストについて、top-1一致率も提供します：

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FcCroCNVfybzFZ7lAMHVy%2Fsize_vs_top1_per_axis(2).png?alt=media&amp;token=a7f50164-e15c-45ef-911b-e73882436845" alt=""><figcaption></figcaption></figure>

#### 量子化は推論の長さを増加させます

低ビット量子化モデルほど長く思考するかもテストしました。すべてのテストでコンテキスト長を32Kに設定し、思考時間が長すぎる量子化モデルは失格とします。Livecodebenchも最大128Kトークンで実行しましたが、結果は同様です。6つすべてのベンチマークにおける切り詰められた回答数を示しており、Unsloth量子化モデルはGSQの量子化モデルよりもはるかに切り詰めが少ないことが分かります（つまり、思考量が少ない）。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FEKPO459yFA9vQwKohCR0%2Ftruncation.png?alt=media&amp;token=e8ddafad-7f4e-4891-a329-511ffd177365" alt=""><figcaption></figcaption></figure>

ただし、これは量子化によって思考・推論の長さが増加することを示しています。そのため、低ビット量子化モデルではより大きな推論予算を用意してください。

#### ベンチマーク用のEngram除去

グラフ作成のためにengramも除去しましたが、これは何も変えません。すべての低ビット量子化モデルはengramとしてIQ4\_NLを使用し、Q2\_K\_XLとIQ2\_XXSはQ5\_Kを使用するためです。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fzggh3ij4y2HInPA0LU80%2Fremove%20engram.png?alt=media&amp;token=5900687a-ad79-4d69-8650-318fa3a17d61" alt=""><figcaption></figcaption></figure>

#### 完全なベンチマーク結果

| 量子化                | サイズ（GB） | AIME25 | HMMT Feb26 | GPQA-D | MMLU-Pro | IFEval | LCB v6（32K） | 6件の平均 | Aider pass\@1 | 切り詰め率（%）（6） |
| ------------------ | ------: | -----: | ---------: | -----: | -------: | -----: | ----------: | ----: | ------------: | ----------: |
| UD-Q8\_K\_XL（参照）   |   508.4 |  97.08 |      68.94 |  90.47 |    88.61 |  95.10 |       85.90 | 87.68 |             - |        1.48 |
| UD-Q2\_K\_XL（v3.1） |   334.8 |  97.50 |      69.89 |  89.58 |    88.28 |  94.92 |       84.76 | 87.49 |             - |        2.10 |
| UD-IQ2\_XXS（v3.1）  |   300.5 |  96.88 |      67.61 |  88.95 |    87.53 |  95.19 |       83.62 | 86.63 |         44.38 |        2.71 |
| UD-IQ1\_M（v3.1）    |   250.4 |  95.00 |      62.88 |  88.38 |    87.53 |  95.10 |       84.38 | 85.55 |         42.13 |        2.91 |
| UD-IQ1\_S（v3.1）    |   233.0 |  92.92 |      57.01 |  87.63 |    86.62 |  94.92 |       82.10 | 83.53 |         36.52 |        4.15 |
| GSQ-RCO IQ2\_XS    |   265.8 |  95.00 |      64.39 |  88.64 |    86.62 |  94.27 |       84.95 | 85.64 |         41.57 |        2.83 |
| GSQ-RCO IQ2\_XXS   |   248.8 |  95.21 |      57.95 |  85.80 |    86.53 |  93.72 |       82.86 | 83.68 |         36.52 |        4.00 |
| GSQ-RCO IQ1\_M     |   231.3 |  91.88 |      53.60 |  85.10 |    85.49 |  91.77 |       82.86 | 81.78 |         29.78 |        4.69 |

#### 完全なベンチマーク手法

| ベンチマーク        | ソース（リビジョン）                                 |    項目 |            サンプル / 項目 |     最大トークン数 | シードベース              | プロンプト                                 | 採点器                                                    |
| ------------- | ------------------------------------------ | ----: | -------------------: | ----------: | ------------------- | ------------------------------------- | ------------------------------------------------------ |
| AIME25        | MathArena/aime\_2025（c94da77e）             |    30 |                   16 |      32,768 | 20261029            | 問題 + "段階的に考え、最終回答を\boxed{}内に入れてください。" | 最後の\boxed{}に対するmath\_verify、整数の完全一致にフォールバック            |
| HMMT Feb26    | MathArena/hmmt\_feb\_2026                  |    33 |                   16 |      32,768 | 20261029            | AIME25と同様                             | math\_verify                                           |
| GPQA-D        | Idavidrein/gpqa diamond（633f5ee8）          |   198 | 8（4 + 4、以前のアップロードは4） |      32,768 | 20261026 + 20261029 | OpenAI simple-evalsの多肢選択テンプレート        | 最後の"Answer: X"、\boxed{X}、"answer is (X)"、単独の文字にフォールバック |
| MMLU-Pro      | 1,203項目の層化サブセット                            | 1,203 |                    2 |      32,768 | 20261029            | simple-evals形式、最大10選択肢                | 最後の"Answer: X"                                         |
| IFEval        | google/IFEval                              |   541 |                    2 |      32,768 | 20261029            | 生のプロンプト                               | 公式instruction\_following\_eval、厳格、プロンプトレベル             |
| LCB v6（32K）   | livecodebench/code\_generation\_lite test6 |   175 |                    3 |      32,768 | 20261026            | 公式LCBシステム + ユーザープロンプト                 | 公式extract\_code + run\_test、テストごとに6秒、サンドボックス化されたサブプロセス |
| 6件の平均         | 上記のすべてのベンチマーク                              |       |                      |             |                     |                                       | 9つのpass\@1値の平均                                         |
| Aider pass\@1 | Aider Polyglot                             |   225 |                  1試行 | 返信ごとに32,768 | 該当なし                | Docker内の公式aiderベンチマーク                 | 演習のユニットテスト                                             |
| 切り詰め率（%）（6）   | 6つのベンチマーク                                  |       |                      |      32,768 |                     |                                       | トークン上限で終了する回答の割合                                       |

### ⚙️ 使用ガイド

**DeepSeek-V4.1-Flash-1017** MoEと **Engram条件付きメモリ**を組み合わせています：最大4トークンのn-gramがトークンごとに少数のテーブル行にアクセスするため、テーブルをGPUメモリに常駐させる必要はありません。llama.cpp上の最適化により最大 **3倍高速な** 他のCPU/VRAM/ngram重視のリポジトリより高速なDeepSeek-V4.1推論を可能にするため、推論にはUnslothを使用するのが最適です。

1ビット `UD-IQ1_S` は、Macbook、DGX Spark、RTX Sparkのような128GB RAM構成で動作します。一方、3ビットの `UD-IQ3_XXS` は、Mac Studioのような256GB RAM構成で動作します。

弊社の [Qwen3.8-Flash-Next](/docs/jp/moderu/qwen3.8-next.md) ガイドにあるPLE / n-gramレイヤーと同様に、Engramの110.6～202.8 GBテーブルはmmap経由でSSDに置いたままにできます。行はオンデマンドでOSキャッシュに読み込まれるため、ディスクの全容量要件を維持しながらRAM/VRAMを節約できます。

#### **DeepSeek-V4.1-Flash-1017の要件：**

**表：ハードウェア要件** （RAM + VRAM、または統合メモリ。EngramはSSD上）。

| 1ビット       | 2ビット       | 3ビット       | 4ビット   | 8ビット   |
| ---------- | ---------- | ---------- | ------ | ------ |
| 128～145 GB | 176～205 GB | 256～290 GB | 305 GB | 315 GB |

推定値には、Engram以外の重みを約5～10 GB上回る余裕が含まれます。実行時およびコンテキストではさらに必要になる場合があります。

**n-gramストレージ：** ルックアップ形式と重みのサイズを以下に示します。Rest GBは、必要となるRAM/VRAMの絶対的な最小量です。

| 量子化          | N-gram形式 / GB   | 残りGB  |
| ------------ | --------------- | ----- |
| UD-IQ1\_S    | IQ4\_NL / 110.6 | 122.4 |
| UD-IQ1\_M    | IQ4\_NL / 110.6 | 139.8 |
| UD-IQ2\_XXS  | Q5\_K / 135.2   | 165.3 |
| UD-Q2\_K\_XL | Q5\_K / 135.2   | 199.6 |
| UD-IQ3\_XXS  | Q6\_K / 161.3   | 233.5 |
| UD-IQ3\_S    | Q6\_K / 161.3   | 262.3 |
| UD-Q3\_K\_XL | MXFP8 / 202.8   | 282.3 |
| UD-Q4\_K\_XL | MXFP8 / 202.8   | 297.9 |
| UD-Q8\_K\_XL | MXFP8 / 202.8   | 305.6 |

### 推奨設定

DeepSeekは、temperature = 1.0、top-p = 1.0を推奨し、top-kとmin-pを無効にすることを推奨しています：

| パラメータ         | 設定               |
| ------------- | ---------------- |
| `temperature` | `1.0`            |
| `top_p`       | `1.0`            |
| 最大コンテキストウィンドウ | `1,048,576` トークン |

DeepSeekは、長文生成の設定では **少なくとも256Kの出力トークン** を許可することを推奨しています。

### 📊 量子化分析

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FZbUjhpI7wJTjf3pM1uwu%2Fsize_vs_top1(1).png?alt=media&amp;token=4e133008-8026-4e93-baa7-d7f2e2b81ecc" alt=""><figcaption></figcaption></figure>

結果はwiki1100およびlong17kにおけるDeepSeek公式リファレンスと比較しています。KLが低いほど次トークン確率は近く、top-1が高いほど予測の一致数が多くなります。

DeepSeekは **MXFP4**、FP8、BF16を混在させています。Q4とQ8は **MXFP4** エキスパートと同じEngramテーブルを保持します。そのラベルはすべてのテンソルの精度を表すものではありません。Q4は多くの非エキスパート重みをQ8\_0で保存し、Q8はBF16を使用します。

Engramの精度をIQ4\_NLからQ5\_K、Q6\_K、MXFP8へ変更した場合も示しており、 **n-gramを自由に組み合わせられるスタンドアロンEngramを提供します。**

| 量子化          | 合計サイズ    | wiki1100 KL / top-1 | long17k KL / top-1 |
| ------------ | -------- | ------------------- | ------------------ |
| UD-IQ1\_S    | 233.0 GB | 0.457 / 82.8%       | 0.364 / 85.1%      |
| UD-IQ1\_M    | 250.4 GB | 0.314 / 87.1%       | 0.241 / 88.2%      |
| UD-IQ2\_XXS  | 300.5 GB | 0.203 / 90.5%       | 0.142 / 91.2%      |
| UD-Q2\_K\_XL | 334.8 GB | 0.138 / 91.5%       | 0.0879 / 93.3%     |
| UD-IQ3\_XXS  | 394.7 GB | 0.0625 / 94.6%      | 0.043 / 95.1%      |
| UD-IQ3\_S    | 423.6 GB | 0.0316 / 96.0%      | 0.0195 / 96.8%     |
| UD-Q3\_K\_XL | 485.1 GB | 0.0204 / 96.5%      | 0.0114 / 97.4%     |
| UD-Q4\_K\_XL | 500.7 GB | 9.00e-03 / 98.2%    | 4.46e-03 / 98.5%   |
| UD-Q8\_K\_XL | 508.4 GB | 4.76e-03 / 98.5%    | 2.81e-03 / 98.7%   |

**量子化モデルの選択：** IQ1\_SはQ8と比べてディスク容量を約54%節約します。IQ1\_Mは17.4 GB増加し、wiki1100でtop-1一致率を4.3ポイント、long17kで3.1ポイント改善します。IQ3各種モデルは94.6～96.8%の一致率に達します。

#### **思考努力度**

思考はデフォルトで有効であり、 `reasoning_effort=75` （「高」）です。整数値を **1から100**まで設定できます。値を高くすると、モデルにより徹底的な推論を求めます。トークン上限ではありません。付属テンプレートでは、 `低` = 50, `中` = 62, `高` = 75、および `最大` = 100.

例えば、起動コマンドに以下のオプションのいずれかを追加します：

```bash
# デフォルトの思考努力度
--chat-template-kwargs '{"reasoning_effort":75}'

# 最大の思考努力度
--chat-template-kwargs '{"reasoning_effort":100}'

# 思考を無効化
--chat-template-kwargs '{"enable_thinking":false}'
```

## 実行 **DeepSeek-V4.1-Flash-1017** チュートリアル：

このチュートリアルでは、 `UD-Q2_K_XL`を使用します。Unslothは、ほぼ最適なDeepSeek-V4.1のオフロード、ngramなどの構成を自動選択し、セットアップでほぼ最高の速度を得られるようにします。

### 🦥 Unslothガイド

[Unsloth Desktop](https://unsloth.ai/docs/desktop) は、macOS、Windows、LinuxでローカルAIを利用するためのオープンソースUIです。1つのアプリからGGUFを検索・ダウンロードし、CPUおよびGPUオフロードを構成し、推論設定を調整し、ツールを接続できます。

{% stepper %}
{% step %}

#### Unsloth をインストール

始める最も簡単な方法は、以下をダウンロードすることです [Unsloth Desktop アプリ](/docs/jp/desktop.md)。対応環境は [macOS](/docs/jp/meru/install/mac.md), [Windows](/docs/jp/meru/install/windows-installation.md)、および [Linux](/docs/jp/meru/install/linux.md).

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth をダウンロード</a>

* <i class="fa-apple">:apple:</i> [macOS 用をダウンロード](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Windows 用をダウンロード](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Linux 用をダウンロード](https://unsloth.ai/download/linux)

または、手動でインストールしたい場合は：
{% endstep %}

{% step %}

#### DeepSeek-V4.1-Flash-1017 を検索してダウンロード

へ移動 [Unsloth Chat](/docs/jp/shii/studio/chat.md) または Model hub で、以下を検索してください **DeepSeek-V4.1-Flash-1017** そして次を選択 [unsloth/DeepSeek-V4.1-Flash-1017-GGUF](https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF)。上記のサイズとメモリ要件を参考に、必要な量子化版をダウンロードしてください。
{% endstep %}

{% step %}

#### DeepSeek-V4.1-Flash-1017 を実行

推論は既定で有効になっており、 `75`で、切り替えで変更できます。Unsloth は DeepSeek-V4.1 のオフロード、ngram などの設定を自動でほぼ最適に選択し、あなたの環境で可能な限り最高に近い速度が出るようにします。

詳細については、以下をご覧ください [Unsloth 推論ガイド](/docs/jp/shii/studio/chat.md).

UD-IQ1\_S では、233.0 GB のダウンロードに 110.6 GB の Engram n-gram テーブルと 122.4 GB のその他の重みが含まれます。Engram のオンデマンド読み込みを使うことで、ルックアップテーブルを SSD に置いたままにし、キャッシュされた行、コンテキスト、実行時バッファ用に追加の RAM/VRAM を使用できます。メモリ要件については、上記の使用ガイドに従ってください。
{% endstep %}

{% step %}

#### Unsloth API で DeepSeek-V4.1-Flash-1017 を提供

次を使用できます `unsloth run` コマンドで、以下を使用して API 経由で DeepSeek-V4.1-Flash-1017 を提供できます `llama-server` ランタイムフラグを使用します。これには、コンテキストサイズ、GPU レイヤー、スレッディング、サンプリング、ネットワーク、ツール設定が含まれます。詳細は以下をご覧ください [API ドキュメント](/docs/jp/ji-chu/api.md) または [unsloth start](/docs/jp/tong-he/unsloth-start.md).

{% code overflow="wrap" %}

```bash
unsloth run --model unsloth/DeepSeek-V4.1-Flash-1017-GGUF:UD-Q2_K_XL \
    --temp 1.0 \
    --top-p 1.0 \
    --min-p 0.0 \
    --chat-template-kwargs '{"reasoning_effort":75}'
```

{% endcode %}

DeepSeek-V4.1-1017 と Engram のオンデマンド読み込みに対応したランタイムを使用してください。n-gram テーブルをディスクに保持する場合は、使用ガイドの SSD オフロードとメモリ設定を適用してください。
{% endstep %}

{% step %}

#### Unsloth の準備が整いました

Unsloth Desktop を通じて DeepSeek-V4.1-Flash-1017 をツールに接続できます。Unsloth は次のワークフローもサポートしています：

* **ツールを接続：** [Claude Code](/docs/jp/ji-chu/claude-code.md), [Codex](/docs/jp/ji-chu/codex.md), [ウェブ検索](/docs/jp/shii/studio/chat.md#advanced-web-search), [MCP](/docs/jp/ji-chu/mcp.md) など
* **モデルを学習：** その他の対応テキスト、拡散モデルをファインチューニング [埋め込み](/docs/jp/ji-chu/embedding-finetuning.md)など
* **メディアを生成：** 作成して学習 [画像](/docs/jp/ji-chu/diffusion-image.md)、動画、 [TTS](/docs/jp/ji-chu/text-to-speech-tts-fine-tuning.md) ローカルで

<div align="center"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FYShiiub5gs5pCQLX6d4U%2FScreenshot%202026-08-15%20at%2012.18.24%E2%80%AFAM.png?alt=media&amp;token=d6996797-a144-4113-b4c3-155cca6c39a0" alt="Unsloth Desktop Agents settings interface example" width="563"><figcaption><p>Unsloth Desktop の Agents 設定（インターフェース例）。ツールを接続するときは、DeepSeek-V4.1-Flash-1017 とダウンロードした量子化版を選択してください。</p></figcaption></figure></div>
{% endstep %}
{% endstepper %}

### 🦙 llama.cppでDeepSeek-V4.1-Flashを実行

{% stepper %}
{% step %}
弊社の特定のllama.cpp PRを使用する必要があります [こちら](https://github.com/ggml-org/llama.cpp/pull/30817)。以下のビルド手順にも従えます。 `-DGGML_CUDA=ON` を `-DGGML_CUDA=OFF` に変更してください。GPUがない場合、またはCPU推論のみを行いたい場合です。 **Apple Mac / Metalデバイスでは**、次を設定し、 `-DGGML_CUDA=OFF` その後は通常どおり続けてください。Metalサポートはデフォルトで有効です。

```bash
apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev git -y
git clone https://github.com/ggml-org/llama.cpp
git -C llama.cpp fetch origin pull/30817/head:deepseek41
git -C llama.cpp checkout deepseek41
cmake llama.cpp -B llama.cpp/build \
    -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp
```

{% endstep %}

{% step %}
モデルを実行するには、次のようにします：

```bash
pip install -U "huggingface_hub[cli]"
hf download unsloth/DeepSeek-V4.1-Flash-1017-GGUF \
    --local-dir unsloth/DeepSeek-V4.1-Flash-1017-GGUF \
    --include "*UD-Q2_K_XL*"
```

7つのシャードをすべて同じフォルダに置き、 `--model` 最初のシャードを指定します。llama.cpp は残りのシャードを自動的に読み込みます。
{% endstep %}

{% step %}
次に実行します：

```bash
./llama.cpp/llama-cli \
    --model unsloth/DeepSeek-V4.1-Flash-1017-GGUF/UD-Q2_K_XL/DeepSeek-V4.1-Flash-1017-UD-Q2_K_XL-00001-of-00007.gguf \
    --temp 1.0 \
    --top-p 1.0 \
    --top-k 0 \
    --min-p 0.0 \
    --chat-template-kwargs '{"reasoning_effort":75}' \
    --load-mode mmap \
    --lazy-mode on \
    --override-tensor "per_layer_token_embd.weight=CPU"
```

この例では、Engram の n-gram テーブルを SSD から必要に応じて読み込みます。 `--load-mode mmap` かつ `--lazy-mode on` SSD オフロード用に有効にします。
{% endstep %}
{% endstepper %}

### ⚡**DSpark** - 推測的デコーディング

DeepSeek-V4.1 には **DSpark**、メインモデルが検証する前に複数のトークンを提案する推測的デコーディングアーキテクチャが含まれています。これは Engram の n-gram ルックアップテーブルとは別です： **Engram は学習済みメモリを提供し、DSpark はデコードを高速化します**。同様の名前の n-gram 推測的デコーディングオプションも別の機能です。

DSpark を使うには、メインモデルと対応する **V4.1-1017 drafter** を、DSpark 対応のランタイムと組み合わせます。drafter とメインのチェックポイントのバージョンを一致させ、drafter 用に追加メモリを確保してください。このガイドの CLI とサーバーの例では通常のデコードを使用しています。

**DSpark により、DeepSeek-V4.1-Flash-GGUF の推論はデコードで約 1.3～1.5 倍高速になります！**

8GB の Q8\_0 DSpark モジュールと、8.5GB のフル BF16 を提供しています。

### :checkered\_flag:Engram の組み合わせ

DeepSeek-V4.1 の engram 精度も、好みに応じて好きなものに変更できます。

| Engram 精度   | サイズ（GB）  |
| ----------- | -------- |
| MXFP8（元のもの） | 202.8 GB |
| Q6\_K       | 161.3 GB |
| Q5\_K       | 135.2 GB |
| IQ4\_NL     | 110.6 GB |

たとえば、デフォルトで IQ4\_NL の engram を使う動的 1 ビット量子化 IQ1\_S をダウンロードした後で、MXFP8 の engram だけをダウンロードすることで MXFP8 のものに切り替えられます。 <https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF/tree/main/engram> という名前の `DeepSeek-V4.1-Flash-1017-engram-MXFP8.gguf_file` これを行うには、以下のスクリプトに従ってください：

```bash
# 1. テーブルとスクリプトを取得
hf download unsloth/DeepSeek-V4.1-Flash-1017-GGUF \
  --include "engram/*MXFP8*" "engram/set_split.py" --local-dir .

# 2. 5個中5番目のシャードとして登録する（UD-IQ1_S のテーブルスロット）
python engram/set_split.py engram/DeepSeek-V4.1-Flash-1017-engram-MXFP8.gguf_file 5 5

# 3. 古いテーブルを別に残し、新しいものをテーブルシャードの名前に変更する
mv UD-IQ1_S/DeepSeek-V4.1-Flash-1017-UD-IQ1_S-00005-of-00005.gguf UD-IQ1_S/engram-IQ4_NL.bak
mv engram/DeepSeek-V4.1-Flash-1017-engram-MXFP8.gguf_file \
   UD-IQ1_S/DeepSeek-V4.1-Flash-1017-UD-IQ1_S-00005-of-00005.gguf

# 4. 通常どおり実行
llama-server -m UD-IQ1_S/DeepSeek-V4.1-Flash-1017-UD-IQ1_S-00001-of-00005.gguf
```

## 📊 ベンチマーク

### **GGUF の KLD と Top-1% ベンチマーク**

私たちの量子化モデルは、wiki1100 では公式 F32 参照に対して Top-1 一致率 82.8～98.5%、long17k では 85.1～98.7% に達します。UD-Q4\_K\_XL は UD-Q8\_K\_XL と比べて 7.7 GB 節約でき、一致率の差は wiki1100 で 0.3 ポイント、long17k で 0.2 ポイントです。Q8 は両方のセットで KL ダイバージェンスも低くなっています。

**また、engram テーブルの精度を IQ4\_NL から Q5\_K、Q6\_K、MXFP8 に変更し、KLD がどう影響を受けるかを示します**

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FdIFvyiUQafZ2upn6VdhJ%2Fsize_vs_kld(1).png?alt=media&amp;token=e5d14eab-9143-4d0a-b1a6-f5427d995808" alt=""><figcaption></figcaption></figure>

### **公式ベンチマーク**

DeepSeek は以下の結果を **V4.1-Flash-1017** について、以前の V4.1-Flash リリースと比較して報告しています。これらは公式モデルの結果であり、このガイド内の GGUF の測定値ではありません。出典： [DeepSeek の 1017 モデルカード](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017).

| ベンチマーク                  | V4.1-Flash-1017 | V4.1-Flash   |
| ----------------------- | --------------- | ------------ |
| ツールなしの HLE              | 42.6 (44.0†)    | 36.8 (39.1†) |
| Terminal-Bench 4.0      | 42.3            | 31.2         |
| DeepSWE v1.1            | 77.0            | 74.2         |
| ProgramBench            | 29.1            | 20.3         |
| NL2Repo-Bench           | 68.2            | 65.4         |
| Automation-Bench v1.0.6 | 60.5            | 54.8         |
| Agents’ Last Exam       | 35.4            | 31.8         |
| Apex Bench v1.1         | 72.1            | 64.6         |
| Chartography（ツール使用）     | 83.0            | 78.9         |
| BabyVision（ツール使用）       | 92.5            | 89.6         |
| ZeroBench-main（ツール使用）   | 51.0            | 49.0         |

† HLE のテキストのみのサブセット。DeepSeek は Terminal-Bench 4.0 に Claude Code ハーネスを、DeepSWE v1.1 に Mini-SWE-V2 を使用しています。スコアは評価設定、推論努力、コンテキスト予算によって異なります。

### GGUF ベンチマークの内訳

#### 採点者

参照 [Dynamic 3.1 GGUF](/docs/jp/ji-chu/dynamic-3.0-ggufs/dynamic-3.1-gguf.md#graders-used-for-benchmarks)

#### インフラとベンチマークの問題と修正

参照 [Dynamic 3.1 GGUF](/docs/jp/ji-chu/dynamic-3.0-ggufs/dynamic-3.1-gguf.md#infrastructure-and-benchmark-issues-and-fixes)

#### ベンチマーク用 DeepSWE セットアップ

参照 [Dynamic 3.1 GGUF](/docs/jp/ji-chu/dynamic-3.0-ggufs/dynamic-3.1-gguf.md#deepswe-setup-for-benchmarks)

#### ベンチマーク用 Terminal Bench セットアップ

参照 [Dynamic 3.1 GGUF](/docs/jp/ji-chu/dynamic-3.0-ggufs/dynamic-3.1-gguf.md#terminal-bench-setup-for-benchmarks)

#### 問題により除外された Terminal Bench のタスク

参照 [Dynamic 3.1 GGUF](/docs/jp/ji-chu/dynamic-3.0-ggufs/dynamic-3.1-gguf.md#excluded-terminal-bench-tasks-due-to-issues)

### モデルごとのベンチマーク実行回数

公平を期すために複数回実行しました。Terminal bench と DeepSWE は各量子化モデルにつき 3 回、AIME 2025 は各量子化モデルにつき 64 回、LiveCodeBench は各量子化モデルにつき 12 回、ほかにもあります。インフラ関連の問題（タイムアウト、CPU 過負荷など）を修正するために、いくつかの試行は再実行する必要がありました。そうしないと失敗扱いになります。これらは全体としては数問にしか影響していません。

| ベンチマーク                  |    UD IQ1\_S |    UD IQ1\_M |  UD IQ2\_XXS | UD Q2\_K\_XL |       ベースライン |   GSQ IQ1\_M | GSQ IQ2\_XXS |  GSQ IQ2\_XS |
| ----------------------- | -----------: | -----------: | -----------: | -----------: | -----------: | -----------: | -----------: | -----------: |
| Terminal Bench 2.1      |    242 (3/q) |    242 (3/q) |    242 (3/q) |    242 (3/q) |    324 (4/q) |    242 (3/q) |    245 (3/q) |    244 (3/q) |
| DeepSWE v1.1            |    338 (3/q) |    339 (3/q) |    338 (3/q) |    336 (3/q) |    451 (4/q) |    337 (3/q) |    338 (3/q) |    339 (3/q) |
| GPQA-Diamond            | 6,336 (32/q) | 6,336 (32/q) | 6,336 (32/q) | 6,336 (32/q) | 6,336 (32/q) | 6,336 (32/q) | 6,336 (32/q) | 6,336 (32/q) |
| MMLU-Pro                |  2,406 (2/q) |  2,406 (2/q) |  2,406 (2/q) |  2,406 (2/q) |  2,406 (2/q) |  2,406 (2/q) |  2,406 (2/q) |  2,406 (2/q) |
| AIME 2025               | 1,920 (64/q) | 1,920 (64/q) | 1,920 (64/q) | 1,920 (64/q) | 1,920 (64/q) | 1,920 (64/q) | 1,920 (64/q) | 1,920 (64/q) |
| IFEval                  |  1,082 (2/q) |  1,082 (2/q) |  1,082 (2/q) |  1,082 (2/q) |  1,082 (2/q) |  1,082 (2/q) |  1,082 (2/q) |  1,082 (2/q) |
| MATH-500 Level 5        | 2,144 (16/q) | 2,144 (16/q) | 2,144 (16/q) | 2,144 (16/q) | 2,144 (16/q) | 2,144 (16/q) | 2,144 (16/q) | 2,144 (16/q) |
| SciCode                 |    195 (3/q) |    195 (3/q) |    195 (3/q) |    195 (3/q) |    195 (3/q) |    195 (3/q) |    195 (3/q) |    195 (3/q) |
| HLE（テキストのみ）             |    728 (1/q) |    728 (1/q) |    728 (1/q) |    728 (1/q) |    728 (1/q) |    728 (1/q) |    728 (1/q) |    728 (1/q) |
| LiveCodeBench v6        | 2,100 (12/q) | 2,100 (12/q) | 2,100 (12/q) | 2,100 (12/q) | 2,100 (12/q) | 2,100 (12/q) | 2,100 (12/q) | 2,100 (12/q) |
| Automation Bench v1.0.6 |    600 (1/q) |    600 (1/q) |    600 (1/q) |    600 (1/q) |    600 (1/q) |    600 (1/q) |    600 (1/q) |    600 (1/q) |
| HMMT Feb 2025           |   960 (32/q) |   960 (32/q) |   960 (32/q) |   960 (32/q) |   960 (32/q) |   960 (32/q) |   960 (32/q) |   960 (32/q) |
| HMMT Feb 2026           | 2,112 (64/q) | 2,112 (64/q) | 2,112 (64/q) | 2,112 (64/q) | 2,112 (64/q) | 2,112 (64/q) | 2,112 (64/q) | 2,112 (64/q) |
| Aider Polyglot          |    225 (1/q) |    225 (1/q) |    225 (1/q) |    225 (1/q) |    225 (1/q) |    225 (1/q) |    225 (1/q) |    225 (1/q) |
| **合計**                  |   **21,387** |   **21,386** |   **21,389** |   **21,386** |   **21,583** |   **21,387** |   **21,391** |   **21,391** |


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/jp/moderu/deepseek-v4.1-flash.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.