> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/moderu/minimax-m3.1-flash.md).

# MiniMax-M3.1-Flash: ローカルで実行

Unsloth Dynamic GGUFを使ってMiniMax-M3.1-Flashをローカルで実行します。

MiniMax-M3.1-FlashはMiniMaxの新しい **428B** MoEマルチモーダルモデルです。アクティブパラメータは23Bで、 **コンテキスト長は1M**です。コーディングやエージェント用途向けに構築されています。 [Unsloth GGUF](https://huggingface.co/unsloth/MiniMax-M3.1-Flash-GGUF) をUnsloth Desktopまたはllama.cppでローカル実行する方法をご紹介します。

当社の129.4GB **1ビット版** は **トップ1精度約89.9%**&#x3092;達成します。143.9GB **2ビット版** は **91.5%**&#x3092;達成し、249.4GBの4ビットUD-Q4\_K\_XLは98.0%です。コーディングでは、Q2が91.2%、Q4が97.6%に達します。量子化性能は、 **7つのカテゴリ**（コーディング、数学、チャット、ツール、多言語、推論、エージェント用途）を対象に加重評価しました。初日からのアクセスを提供してくださったMiniMaxに感謝します。

### ⚙️ 使用ガイド

MiniMax-M3.1-Flashはテキスト、画像、動画に対応し、全レイヤーにわたるスパースアテンション、アテンションとルーティングされたエキスパート向けのQAT、さらにDSparkを採用しています。

2ビットのUD-Q2\_K\_XLでは、RAMとVRAM（またはユニファイドメモリ）を合計160GB以上確保してください。4ビットのUD-Q4\_K\_XLでは256GB以上が必要です。これらの見積もりは、テキストコンテキスト長16K、並列スロット1つを前提としています。

トークンごとのアクティブパラメータは23Bのみですが、量子化済みの重み全体をRAMとVRAMに保持できるように計画してください。GPUメモリが限られている場合は、CPUオフロードを使用してください。

#### MiniMax-M3.1-Flashの要件：

**表：ハードウェア要件** （RAMとVRAMの合計、またはユニファイドメモリ）。

| 1ビット   | 2ビット   | 3ビット       | 4ビット   | 8ビット（ロスレス） |
| ------ | ------ | ---------- | ------ | ---------- |
| 134 GB | 150 GB | 176～208 GB | 256 GB | 272 GB     |

16Kのテキストコンテキストとスロット1つを想定した見積もりです。KVキャッシュ、ランタイム、OS用に重みのサイズに加えて約20～32 GiBの余裕を見込んでいます。メモリ容量はGiB単位ですが、一般にはGBとして販売されています。コンテキスト長を延ばす場合や、ビジョン、DSparkを使用する場合は、より多くのメモリが必要です。

3ビットでは、 `UD-IQ3_XXS`には176GB以上、 `UD-IQ3_S`には192GB以上、 `UD-Q3_K_XL`には208GB以上を確保してください。8ビット列は、 `UD-Q8_K_XL`を指し、ここに記載したGGUFの中で最も高精度です。

**重みのサイズ：** 以下のダウンロードサイズは10進法のGBです。まずコンテキスト長を16Kに設定し、メモリに余裕があれば増やしてください。

| 量子化          | ダウンロードサイズ（GB） | 重みのサイズ（GiB） |
| ------------ | ------------- | ----------- |
| `UD-IQ1_M`   | 129.4 GB      | 120.5 GiB   |
| `UD-IQ2_XXS` | 134.9 GB      | 125.7 GiB   |
| `UD-Q2_K_XL` | 143.9 GB      | 134.0 GiB   |
| `UD-IQ3_XXS` | 160.0 GB      | 149.1 GiB   |
| `UD-IQ3_S`   | 175.5 GB      | 163.4 GiB   |
| `UD-Q3_K_XL` | 194.0 GB      | 180.6 GiB   |
| `UD-Q4_K_XL` | 249.4 GB      | 232.3 GiB   |
| `UD-Q8_K_XL` | 259.1 GB      | 241.3 GiB   |

### 推奨設定

MiniMax の推奨構成を使用します：

| 設定    | 値          |
| ----- | ---------- |
| 温度    | `1.0`      |
| Top-p | `0.95`     |
| Top-k | `0` （無効）   |
| Min-p | `0.0` （無効） |

#### 思考の強度

テンプレートでは適応型思考を使用します。 `reasoning_effort` を `low`, `medium`, `high`, `xhigh` または `max`に設定します。私たちは `high`を使用します。思考の強度はコンテキストや出力トークンの上限とは別に設定します。

```bash
--chat-template-kwargs '{"reasoning_effort":"high"}'
```

### 📊 量子化の分析

UD-Q8\_K\_XL は、元の safetensors から直接、損失なしで変換したものです。MiniMax は MoE レイヤーに NVFP4、その他の部分に MXFP8 を使用しています。UD-Q8\_K\_XL では NVFP4 + BF16 のままにしました。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FwPOGpnK3wxeulnC9lrJq%2Fminimax-kld.png?alt=media&amp;token=c7fb9b86-729f-45f1-827a-c8acee92d0a5" alt="MiniMax-M3.1-Flash GGUF KLD by file size across seven evaluation categories. Lower is better."><figcaption><p>ファイルサイズごとの平均 KLD。値が小さいほど良好です。縦軸は対数目盛です。</p></figcaption></figure>

特定の領域に量子化アルゴリズムが過剰適合しないことを確かめるため、作成した MiniMax M3.1 Flash の量子化モデルと、汎用の llama.cpp + imatrix による量子化モデルを、複数の異なる分野で比較しました。Unsloth Dynamic v3 がすべての分野で予想以上に良好に機能する様子を示します。

top-1%のプロットも作成し、UD3が低ビット数でも、imatrixを使用した単純なllama.cppレイアウトと比べて引き続き優れた性能を発揮することを示しました。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FEGL7IdsBG2LJa8kp9krw%2Fsize_vs_top1_per_axis.png?alt=media&amp;token=1898d4b7-b4b4-46a7-b5e2-9a9a4915cdce" alt=""><figcaption></figcaption></figure>

**量子化ごとのtop-1一致率：**

| 量子化          | ファイルサイズ  | 一般的なチャットのtop-1 | 数学のtop-1 |
| ------------ | -------- | -------------- | -------- |
| `UD-IQ1_M`   | 129.4 GB | 86.2%          | 94.9%    |
| `UD-IQ2_XXS` | 134.9 GB | 87.5%          | 95.3%    |
| `UD-Q2_K_XL` | 143.9 GB | 88.5%          | 95.7%    |
| `UD-IQ3_XXS` | 160.0 GB | 89.9%          | 96.3%    |
| `UD-IQ3_S`   | 175.5 GB | 91.2%          | 96.8%    |
| `UD-Q3_K_XL` | 194.0 GB | 92.6%          | 97.4%    |
| `UD-Q4_K_XL` | 249.4 GB | 97.3%          | 99.0%    |
| `UD-Q8_K_XL` | 259.1 GB | 97.8%          | 99.3%    |

動的量子化では、同等以下のサイズでKLDが低く、一致率が高くなっています。 **UD-Q3\_K\_XL（194.0 GB）** は、汎用の **IQ4\_XS（約230 GB）** を、7つすべてのカテゴリのtop-1一致率で上回っています。

**量子化の選択：** Q2は143.9 GBで、一般的なチャットでは88.5%、数学では95.7%の一致率を達成しています。Q4ではそれぞれ97.3%と99.0%に向上し、多言語の一致率もQ3の90.8%から97.6%に向上します。Q8ではサイズが9.7 GB増加しますが、忠実度の向上は比較的小さくなります。

## MiniMax-M3.1-Flashの実行チュートリアル：

例では **UD-Q2\_K\_XL** を使用します。Unslothでは、画像入力とDSparkが自動的に有効になります。

### 🦥 Unslothガイド

[Unsloth Desktop](https://unsloth.ai/docs/desktop) は、macOS、Windows、Linux向けのオープンソースUIです。1つのアプリでGGUFのダウンロード、サンプリングの設定、CPU/GPUへのオフロードを行えます。

{% stepper %}
{% step %}

### Unslothをインストールする

お使いのOS向けの [Unsloth Desktop](https://unsloth.ai/download) をダウンロードします。MiniMax-M3.1に対応したビルド、または以下のllama.cpp PRを使用してください。

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unslothをダウンロード</a>
{% endstep %}

{% step %}

### MiniMax-M3.1-Flashを検索してダウンロードする

「 **Unsloth Chat** 」または「 **Model hub**」で **MiniMax-M3.1-Flash** を検索し、 [unsloth/MiniMax-M3.1-Flash-GGUF](https://huggingface.co/unsloth/MiniMax-M3.1-Flash-GGUF)を選択します。目的の量子化モデルをダウンロードしてください。ここでは `UD-Q2_K_XL` （143.9 GB）を使用します。
{% endstep %}

{% step %}

### MiniMax-M3.1-Flashを実行する

推奨設定でモデルをロードします。設定は、 **16Kのコンテキスト**, **並列スロット1つ** 、および `high` の推論努力度です。付属のチャットテンプレートを使用し、メモリに収まるようCPU/GPUへのオフロードを調整してください。

詳しくは、 [Unsloth推論ガイド](https://unsloth.ai/docs/jp/shii/studio/chat.md).
{% endstep %}

{% step %}

### Unsloth APIでMiniMax-M3.1-Flashを提供する

対応するランタイムを使用し、 `unsloth run` とllama-serverのオプションを指定してモデルを提供します：

```bash
unsloth run --model unsloth/MiniMax-M3.1-Flash-GGUF:UD-Q2_K_XL \
    --temp 1.0 --top-p 0.95 --top-k 0 --min-p 0.0 \
    --chat-template-kwargs '{"reasoning_effort":"high"}' \
    --host 127.0.0.1 --port 8080
```

チャットの接続先： `http://localhost:8080`。OpenAI互換APIのベースURLは `http://localhost:8080/v1`.
{% endstep %}

{% step %}

### ツールを接続する

次のエンドポイントに、 `/v1/models`にあるモデルIDを使ってAPIクライアントを接続します。サーバーは起動したままにしてください。
{% endstep %}
{% endstepper %}

### 🦙 llama.cppでMiniMax-M3.1-Flashを実行する

{% stepper %}
{% step %}

### MiniMax-M3.1をサポートするようにllama.cppをビルドする

Linux、WSL、またはmacOSでBashを使って [PR #31192](https://github.com/ggml-org/llama.cpp/pull/31192) をビルドします。

Ubuntu / WSLでは、ビルド依存関係をインストールします。

```bash
sudo apt-get update
sudo apt-get install -y build-essential cmake git libssl-dev
```

NVIDIAの場合は、 [CUDAツールキット](https://developer.nvidia.com/cuda-downloads)をインストールします。macOSでは、XcodeコマンドラインツールとCMakeをインストールし、 `-DGGML_CUDA=OFF` を使用します（Metalはデフォルトで有効です）。 `OFF` はCPUのみのビルドでも使用します。

```bash
git clone https://github.com/ggml-org/llama.cpp
git -C llama.cpp fetch origin pull/31192/head:minimax-m31
git -C llama.cpp checkout minimax-m31
cmake llama.cpp -B llama.cpp/build \
    -DCMAKE_BUILD_TYPE=Release \
    -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON
cmake --build llama.cpp/build --config Release -j --target llama-server
```

{% endstep %}

{% step %}

### GGUFをダウンロードする

Hugging Face CLIをインストールし、 **4つすべてのシャード** の `UD-Q2_K_XL`:

```bash
pip install -U huggingface_hub
hf download unsloth/MiniMax-M3.1-Flash-GGUF \
    --local-dir unsloth/MiniMax-M3.1-Flash-GGUF \
    --include "UD-Q2_K_XL/*"
```

すべてのシャードを同じ場所に置き、 `--model` には最初のシャードを指定します。llama.cppが残りを読み込みます。別の量子化形式を使う場合は、ダウンロードフィルターとモデルパスを変更してください。
{% endstep %}

{% step %}

### MiniMax-M3.1-Flashを実行する

ローカルのチャットサーバーを起動します。

```bash
./llama.cpp/build/bin/llama-server \
    --model unsloth/MiniMax-M3.1-Flash-GGUF/UD-Q2_K_XL/MiniMax-M3.1-Flash-UD-Q2_K_XL-00001-of-00004.gguf \
    --temp 1.0 \
    --top-p 0.95 \
    --top-k 0 \
    --min-p 0.0 \
    --chat-template-kwargs '{"reasoning_effort":"high"}' \
    --host 127.0.0.1 --port 8080
```

{% endstep %}
{% endstepper %}

#### 画像入力

画像を入力する場合は、別途 `mmproj-BF16.gguf` ビジョンプロジェクター（約1.74 GB）をダウンロードします：

```bash
hf download unsloth/MiniMax-M3.1-Flash-GGUF \
    --local-dir unsloth/MiniMax-M3.1-Flash-GGUF \
    --include "mmproj-BF16.gguf"
```

このサーバーオプションを追加し、プロジェクターと画像処理に必要なメモリを確保します：

```bash
--mmproj unsloth/MiniMax-M3.1-Flash-GGUF/mmproj-BF16.gguf
```

### ⚡ DSpark - 投機的デコーディング

M3.1では、EAGLE系の [MTP](https://unsloth.ai/docs/jp/moderu/mtp.md) に代わって **DSpark**が採用されています。ドラフトモデルがトークン候補を提案し、メインモデルが検証することで、デコーディングを高速化できる可能性があります。対応するMiniMax-M3.1ドラフトモデルと追加メモリが必要です。

[PR #31192](https://github.com/ggml-org/llama.cpp/pull/31192) はDSparkに対応していますが、上記のコマンドでは通常のデコーディングを使用しています。対応するドラフトモデルを用意し、次のオプションを追加して、ファイル名をローカルパスに置き換えてください：

```bash
--spec-type draft-dspark \
    -md MiniMax-M3.1-Flash-DSpark-BF16.gguf \
    --spec-draft-p-min 0
```

## 📊 ベンチマーク

### GGUFのKLDおよびTop-1ベンチマーク

7つのカテゴリ全体で、 **UD-Q2\_K\_XLのTop-1一致率は約85.3～95.7%**, **UD-Q4\_K\_XLは約97.3～99.0%**、 **UD-Q8\_K\_XLは約97.8～99.3%**&#x3067;す。Q4はQ8より9.7 GB少ない容量で、一致率の差はわずかです。また、Q8は全体を通してKLDも低くなっています。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FLKBqgmIgiNf9wTXbGNsX%2Fminimax-top1.png?alt=media&amp;token=3a155732-d550-4397-86b2-c3d134e5912d" alt="MiniMax-M3.1-Flash GGUF top-1 agreement by file size across seven evaluation categories. Higher is better."><figcaption><p>7つのカテゴリにおけるTop-1トークン一致率。高いほど良好です。値はグラフから読み取った概算です。</p></figcaption></figure>

### 公式ベンチマーク

[MiniMaxの公式結果を](https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash) 以下に示します。

| ベンチマーク                  | MiniMax-M3.1-Flash | DeepSeek-V4.1-Flash-1017 |
| ----------------------- | ------------------ | ------------------------ |
| Automation-Bench v1.0.6 | 62.8               | 60.5                     |
| Terminal Bench 4.0      | 38.1               | 42.3                     |
| DeepSWE v1.1            | 73.7               | 77.0                     |
| NL2Repo-Bench           | 61.2               | 68.2                     |
| BabyVision（ツール使用）       | 91.0               | 92.5                     |
| HLE（ツール不使用）†            | 43.4               | 42.6                     |
| OSWorld 2.0             | 61.7               | —                        |
| LOCA-Bench 256K         | 60.3               | —                        |

† HLEではテキストのみのサブセットを使用しています。評価ハーネス：Terminal BenchにはCodex 0.149.1、DeepSWEにはmini-SWE-agent 2.4.5、NL2RepoにはClaude Code 2.1.233を使用しています。後者2つでは512Kのコンテキストを使用します。スコアは設定や推論の労力によって異なります。—は結果が報告されていないことを示します。


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/jp/moderu/minimax-m3.1-flash.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
