> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/moderu/tutorials/minimax-m25.md). # MiniMax-M2.5: 実行ガイド MiniMax-M2.5を自分のデバイスでローカル実行しましょう！ MiniMax-M2.5 は、コーディング、エージェント的ツール使用、検索、オフィス業務で SOTA を達成する新しいオープン LLM で、80.2% を記録し [検証済み](#benchmarks) 、Multi-SWE-Bench で 51.3%、BrowseComp で 76.3%。 その **230B パラメータ** （10B アクティブ）モデルは **200K コンテキスト** コンテキストウィンドウがあり、量子化なしの bf16 では **457GB**。Unsloth Dynamic **3ビット** GGUF でサイズは **101GB** **(-62%):** [**MiniMax-M2.5 GGUF**](https://huggingface.co/unsloth/MiniMax-M2.5-GGUF) すべてのアップロードは Unsloth の [Dynamic 2.0](/docs/jp/ji-chu/dynamic-3.0-ggufs.md) SOTA の量子化性能向けに最適化されているため、3ビットでは重要なレイヤーが 8 ビットまたは 16 ビットにアップキャストされています。Unsloth を使って、マルチ GPU でモデルを微調整することもできます。 {% hint style="success" %} **2月26日:** ここで、当社の GGUF 量子化が [ベンチマークでどれほど性能を発揮するかをご覧ください](#unsloth-gguf-benchmarks). {% endhint %} ### :gear: 使用ガイド 3ビットの動的量子化 UD-Q3\_K\_XL は **101GB** のディスク容量を使用します。これは **128GB ユニファイドメモリ搭載 Mac** で約20トークン/秒以上を実現し、さらに **16GB GPU 1基と 96GB の RAM** で25トークン/秒以上です。 **2ビット** 量子化版、または最大の2ビット版は 96GB デバイスに収まります。 ほぼ **完全精度**には、 `Q8_0` （8ビット）では 243GB を使用し、256GB RAM 搭載デバイス / Mac に収まり、10トークン/秒以上で動作します。 {% hint style="success" %} 最高の性能のために、利用可能な総メモリ（VRAM + システム RAM）が、ダウンロードする量子化済みモデルファイルのサイズを上回っていることを確認してください。そうでなくても、llama.cpp は SSD/HDD オフロード経由で実行できますが、推論は遅くなります。 {% endhint %} ### 推奨設定 MiniMax は、最高の性能を得るために次のパラメータの使用を推奨します: `temperature=1.0`, `top_p = 0.95`, `top_k = 40`. {% columns %} {% column %} | デフォルト設定（ほとんどのタスク） | | ---------------------------- | | `temperature = 1.0` | | `top_p = 0.95` | | `top_k = 40` | | `repeat penalty = 1.0` または無効 | | {% endcolumn %} | {% column %} * **最大コンテキストウィンドウ:** `196,608` * `Min_P = 0.01` （デフォルトは 0.05 の場合があります） * デフォルトのシステムプロンプト： {% code overflow="wrap" %} ``` あなたは役立つアシスタントです。あなたの名前は MiniMax-M2.5 で、MiniMax によって作られています。 ``` {% endcode %} {% endcolumn %} {% endcolumns %} ## MiniMax-M2.5 のチュートリアルを実行: これらのチュートリアルでは、3ビットの [UD-Q3\_K\_XL](https://huggingface.co/unsloth/MiniMax-M2.5-GGUF?show_file_info=UD-Q3_K_XL%2FMiniMax-M2.5-UD-Q3_K_XL-00001-of-00004.gguf) 128GB RAM デバイスに収まる量子化版を使用します。 #### ✨ llama.cpp で実行 {% stepper %} {% step %} 最新の `llama.cpp` を [GitHubこちら](https://github.com/ggml-org/llama.cpp)。以下のビルド手順に従うこともできます。変更してください `-DGGML_CUDA=ON` を `-DGGML_CUDA=OFF` GPUがない場合、またはCPU推論のみを使いたい場合は。 **Apple Mac / Metalデバイスの場合**、次を設定します `-DGGML_CUDA=OFF` その後は通常どおり続けてください。Metalサポートはデフォルトで有効です。 {% code overflow="wrap" %} ```bash apt-get update apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y git clone https://github.com/ggml-org/llama.cpp cmake llama.cpp -B llama.cpp/build \ -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split cp llama.cpp/build/bin/llama-* llama.cpp ``` {% endcode %} {% endstep %} {% step %} を使いたい場合は `llama.cpp` モデルを直接読み込むには、以下のようにできます。(:Q3\_K\_XL) は量子化タイプです。Hugging Face（3番）経由でもダウンロードできます。これは次と似ています `ollama run` に似ています。 `export LLAMA_CACHE="folder"` を使って `llama.cpp` 特定の場所に保存するためです。モデルのコンテキスト長の上限は 200K であることを忘れないでください。 これに従ってください: **ほとんどのデフォルト** ユースケース: ```bash export LLAMA_CACHE="unsloth/MiniMax-M2.5-GGUF" ./llama.cpp/llama-cli \ -hf unsloth/MiniMax-M2.5-GGUF:UD-Q3_K_XL \\ --ctx-size 16384 \\ --flash-attn on \\ --temp 1.0 \\ --top-p 0.95 \\ --min-p 0.01 \\ --top-k 40 ``` {% endstep %} {% step %} 以下をインストールした後、( `pip install huggingface_hub hf_transfer` をインストール後）。 `UD-Q3_K_XL` （動的 4ビット量子化）または `UD-Q6_K_XL` のような他の量子化版もあります。サイズと精度のバランスを取るために、当社の 4bit 動的量子化を使うことを推奨します。 `UD-Q3_K_XL` ダウンロードが止まってしまう場合は、 [Hugging Face Hub、XET のデバッグ](/docs/jp/ji-chu/troubleshooting-and-faqs/hugging-face-hub-xet-debugging.md) ```bash hf download unsloth/MiniMax-M2.5-GGUF \\ --local-dir unsloth/MiniMax-M2.5-GGUF \\ --include "*UD-Q3_K_XL*" # 8ビット用には "*Q8_0*" を使用 ``` {% endstep %} {% step %} 編集できます `--threads 32` CPUスレッド数は `--ctx-size 16384` コンテキスト長は `--n-gpu-layers 2` GPUオフロードする層数です。GPUがメモリ不足になったら調整してみてください。CPUのみで推論する場合は削除してください。 {% code overflow="wrap" %} ```bash ./llama.cpp/llama-cli \ --model unsloth/MiniMax-M2.5-GGUF/UD-Q3_K_XL/MiniMax-M2.5-UD-Q3_K_XL-00001-of-00004.gguf \\ --temp 1.0 \\ --top-p 0.95 \\ --min-p 0.01 \\ --top-k 40 \ --ctx-size 16384 \\ --seed 3407 ``` {% endcode %} {% endstep %} {% endstepper %} ### 🦙 Llama-server と OpenAI の completion ライブラリ MiniMax-M2.5 を本番環境にデプロイするには、 `llama-server` または OpenAI API を使用します。新しいターミナルで tmux などを使い、次の方法でモデルをデプロイします: {% code overflow="wrap" %} ```bash ./llama.cpp/llama-server \ --model unsloth/MiniMax-M2.5-GGUF/UD-Q3_K_XL/MiniMax-M2.5-UD-Q3_K_XL-00001-of-00004.gguf \\ --alias "unsloth/MiniMax-M2.5" \\ --prio 3 \\ --temp 1.0 \\ --top-p 0.95 \\ --min-p 0.01 \\ --top-k 40 \ --ctx-size 16384 \\ --port 8001 ``` {% endcode %} 次に、新しいターミナルで、 `pip install openai`を実行した後、次を行います: {% code overflow="wrap" %} ```python from openai import OpenAI import json openai_client = OpenAI( base_url = "http://127.0.0.1:8001/v1", api_key = "sk-no-key-required", ) completion = openai_client.chat.completions.create( model = "unsloth/MiniMax-M2.5", messages = [{"role": "user", "content": "Snake ゲームを作成してください。"},], ) print(completion.choices[0].message.content) ``` {% endcode %} ## 📊 ベンチマーク ### Unsloth GGUF ベンチマーク
[Benjamin Marie（第三者）がベンチマークを実施](https://x.com/bnjmn_marie/status/2027043753484021810/photo/1) **MiniMax-M2.5** を使用して **Unsloth GGUF 量子化** 上で **750プロンプトの混合スイートで** （LiveCodeBench v6、MMLU Pro、GPQA、Math500）を評価し、両方を報告しています **全体精度** そして **相対誤差増加** （量子化モデルが元モデルよりどれだけ多く誤るか）。 Unsloth の量子化版は、精度に関わらず、非 Unsloth 版よりも、正確性と相対誤差の両方で大幅に優れています（しかも 8GB 小さいにもかかわらず）。 **主な結果:** * **ここでの品質/サイズの最適なトレードオフ: `unsloth UD-Q4_K_XL`.**\ Original に最も近いのはこれです: たった **6.0ポイント** 低下で、しかも「たった」 **+22.8%** ベースラインより誤りが多いだけです。 * **他の Unsloth Q4 量子化版は互いに非常によく似た性能です（精度は約 64.5〜64.9）。**\ `IQ4_NL`, `MXFP4_MOE`と `UD-IQ2_XXS` はこのベンチマークではどれも基本的に同じ品質で、 **約 33〜35%** Original より誤りが多いです。 * Unsloth GGUF は、他の非 Unsloth GGUF より大幅に優れています。例として、 `lmstudio-community - Q4_K_M` （8GB 小さいにもかかわらず）および `AesSedai - IQ3_S`. ### 公式ベンチマーク ベンチマークは、以下で表形式でも確認できます：
ベンチマークMiniMax-M2.5MiniMax-M2.1Claude Opus 4.5Claude Opus 4.6Gemini 3 ProGPT-5.2（thinking）
AIME2586.383.091.095.696.098.0
GPQA-D85.283.087.090.091.090.0
SciCode44.441.050.052.056.052.0
IFBench70.070.058.053.070.075.0
AA-LCR69.562.074.071.071.073.0
SWE-Bench Verified80.274.080.980.878.080.0
SWE-Bench Pro55.449.756.955.454.155.6
Terminal Bench 251.747.953.455.154.054.0
HLE（ツールなし）19.422.228.430.737.231.4
Multi-SWE-Bench51.347.250.050.342.7—
SWE-Bench 多言語74.171.977.577.865.072.0
VIBE-Pro（平均）54.242.455.255.636.9—
BrowseComp（ctxあり）76.362.067.884.059.265.8
Wide Search70.363.276.279.457.0—
RISE50.234.050.562.536.850.0
BFCL マルチターン76.837.468.063.361.0—
τ² Telecom97.887.098.299.398.098.7
MEWC74.455.682.189.878.741.3
GDPval-MM59.024.661.173.528.154.5
金融モデリング21.617.330.133.215.020.0

コーディングコアベンチマークスコア

検索とツール使用

100件あたりの完了タスク数

オフィス機能

--- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation by asking a question. Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters: ``` GET https://unsloth.ai/docs/jp/moderu/tutorials/minimax-m25.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.