# MiniMax-M2.5 : guide d'exécution MiniMax-M2.5 est un nouveau LLM ouvert atteignant l’état de l’art en codage, utilisation d’outils agentiques, recherche et travail de bureau, avec un score de 80,2 % dans [SWE-Bench](#benchmarks) Verified, 51,3 % dans Multi-SWE-Bench, et 76,3 % dans BrowseComp. gpt-oss **230B de paramètres** (10B actifs) a une **fenêtre de contexte de 200K** et le bf16 non quantifié nécessite **457 Go**. Unsloth Dynamic **3 bits** GGUF réduit la taille à **101 Go** **(-62%):** [**MiniMax-M2.5 GGUF**](https://huggingface.co/unsloth/MiniMax-M2.5-GGUF) Tous les envois utilisent Unsloth [Dynamic 2.0](https://unsloth.ai/docs/fr/bases/unsloth-dynamic-2.0-ggufs) pour des performances de quantification SOTA — ainsi, le 3 bits a des couches importantes remontées en 8 ou 16 bits. Vous pouvez aussi affiner le modèle via Unsloth, en utilisant plusieurs GPU. {% hint style="success" %} **26 fév. :** Voyez comment nos quantifications GGUF [se comportent sur les benchmarks ici](#unsloth-gguf-benchmarks). {% endhint %} ### :gear: Guide d’utilisation La quantification dynamique 3 bits UD-Q3\_K\_XL utilise **101 Go** d’espace disque — cela tient parfaitement sur un **Mac avec mémoire unifiée de 128 Go** pour environ 20+ tokens/s, et fonctionne aussi plus vite avec un **GPU 1x16 Go et 96 Go de RAM** pour 25+ tokens/s. **2 bits** les quants ou le plus grand 2 bits tiendront sur un appareil de 96 Go. Pour une **précision complète**, utilisez `Q8_0` (8 bits), qui utilise 243 Go et tiendra sur un appareil / Mac avec 256 Go de RAM pour 10+ tokens/s. {% hint style="success" %} Pour de meilleures performances, assurez-vous que votre mémoire totale disponible (VRAM + RAM système) dépasse la taille du fichier du modèle quantifié que vous téléchargez. Si ce n’est pas le cas, llama.cpp peut quand même fonctionner via un déchargement sur SSD/HDD, mais l’inférence sera plus lente. {% endhint %} ### Paramètres recommandés MiniMax recommande d’utiliser les paramètres suivants pour de meilleures performances : `top_p=1.0`, `top_p = 0.95`, `top_k = 40`. {% columns %} {% column %} | Paramètres par défaut (la plupart des tâches) | | --------------------------------------------- | | `temperature = 1.0` | | `top_p = 0.95` | | `top_k = 40` | | `pénalité de répétition = 1,0` ou désactivée | | {% endcolumn %} | {% column %} * **Fenêtre de contexte maximale :** `196,608` * `Min_P = 0,01` (la valeur par défaut pourrait être 0,05) * Prompt système par défaut : {% code overflow="wrap" %} ``` Vous êtes un assistant utile. Votre nom est MiniMax-M2.5 et vous êtes conçu par MiniMax. ``` {% endcode %} {% endcolumn %} {% endcolumns %} ## Exécuter les tutoriels MiniMax-M2.5 : Pour ces tutoriels, nous utiliserons la quantification 3 bits [UD-Q3\_K\_XL](https://huggingface.co/unsloth/MiniMax-M2.5-GGUF?show_file_info=UD-Q3_K_XL%2FMiniMax-M2.5-UD-Q3_K_XL-00001-of-00004.gguf) qui tient sur un appareil avec 128 Go de RAM. #### ✨ Exécuter directement dans llama.cpp {% stepper %} {% step %} Obtenez la dernière `llama.cpp` sur [GitHub ici](https://github.com/ggml-org/llama.cpp). Vous pouvez également suivre les instructions de compilation ci-dessous. Changez `-DGGML_CUDA=ON` en `-DGGML_CUDA=OFF` si vous n’avez pas de GPU ou si vous voulez simplement une inférence CPU. **Pour les appareils Apple Mac / Metal**, définissez `-DGGML_CUDA=OFF` puis continuez comme d’habitude - la prise en charge de Metal est activée par défaut. {% code overflow="wrap" %} ```bash apt-get update apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y git clone https://github.com/ggml-org/llama.cpp cmake llama.cpp -B llama.cpp/build \ -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split cp llama.cpp/build/bin/llama-* llama.cpp ``` {% endcode %} {% endstep %} {% step %} Si vous voulez utiliser `llama.cpp` pour charger les modèles directement, vous pouvez faire ce qui suit : (:Q3\_K\_XL) est le type de quantification. Vous pouvez aussi télécharger via Hugging Face (point 3). C’est similaire à `ollama run` . Utilisez `export LLAMA_CACHE="folder"` pour forcer `llama.cpp` pour enregistrer vers un emplacement spécifique. N’oubliez pas que le modèle a une longueur de contexte maximale de seulement 200K. Suivez ceci pour le **la plupart des valeurs par défaut** : ```bash export LLAMA_CACHE="unsloth/MiniMax-M2.5-GGUF" ./llama.cpp/llama-cli \ -hf unsloth/MiniMax-M2.5-GGUF:UD-Q3_K_XL \ --ctx-size 16384 \ --flash-attn on \ --temp 1.0 \ --top-p 0.95 \ --min-p 0,01 \ --top-k 40 ``` {% endstep %} {% step %} Téléchargez le modèle via (après avoir installé `pip install huggingface_hub hf_transfer` ). Vous pouvez choisir `UD-Q3_K_XL` (quantification dynamique 4 bits) ou d’autres versions quantifiées comme `UD-Q6_K_XL` . Nous recommandons d’utiliser notre quantification dynamique 4 bits `UD-Q3_K_XL` pour équilibrer taille et précision. Si les téléchargements se bloquent, voir [hugging-face-hub-xet-debugging](https://unsloth.ai/docs/fr/bases/troubleshooting-and-faqs/hugging-face-hub-xet-debugging "mention") ```bash hf download unsloth/MiniMax-M2.5-GGUF \ --local-dir unsloth/MiniMax-M2.5-GGUF \ --include "*UD-Q3_K_XL*" # Utilisez "*Q8_0*" pour 8 bits ``` {% endstep %} {% step %} Vous pouvez modifier `--threads 32` pour le nombre de threads CPU, `--ctx-size 16384` pour la longueur du contexte, `--n-gpu-layers 2` pour le déchargement GPU sur le nombre de couches. Essayez d’ajuster ce paramètre si votre GPU manque de mémoire. Supprimez-le également si vous n’utilisez que l’inférence CPU. {% code overflow="wrap" %} ```bash ./llama.cpp/llama-cli \ --model unsloth/MiniMax-M2.5-GGUF/UD-Q3_K_XL/MiniMax-M2.5-UD-Q3_K_XL-00001-of-00004.gguf \ --temp 1.0 \ --top-p 0.95 \ --min-p 0,01 \ --top-k 40 \ --ctx-size 16384 \ --seed 3407 ``` {% endcode %} {% endstep %} {% endstepper %} ### 🦙 Llama-server et la bibliothèque de complétion d’OpenAI Pour déployer MiniMax-M2.5 en production, nous utilisons `llama-server` ou l’API OpenAI. Dans un nouveau terminal, par exemple via tmux, déployez le modèle via : {% code overflow="wrap" %} ```bash ./llama.cpp/llama-server \ --model unsloth/MiniMax-M2.5-GGUF/UD-Q3_K_XL/MiniMax-M2.5-UD-Q3_K_XL-00001-of-00004.gguf \ --alias "unsloth/MiniMax-M2.5" \ --prio 3 \ --temp 1.0 \ --top-p 0.95 \ --min-p 0,01 \ --top-k 40 \ --ctx-size 16384 \ --port 8001 ``` {% endcode %} Puis dans un nouveau terminal, après avoir fait `pip install openai`, faites : {% code overflow="wrap" %} ```python from openai import OpenAI import json openai_client = OpenAI( base_url = "http://127.0.0.1:8001/v1", api_key = "sk-no-key-required", ) completion = openai_client.chat.completions.create( model = "unsloth/MiniMax-M2.5", messages = [{"role": "user", "content": "Create a Snake game."},], ) print(completion.choices[0].message.content) ``` {% endcode %} ## 📊 Benchmarks ### Benchmarks Unsloth GGUF
[Benjamin Marie (tiers) a évalué](https://x.com/bnjmn_marie/status/2027043753484021810/photo/1) **MiniMax-M2.5** en utilisant **les quantifications Unsloth GGUF** sur un **suite mixte de 750 prompts** (LiveCodeBench v6, MMLU Pro, GPQA, Math500), en rapportant à la fois **précision globale** et **augmentation relative de l'erreur** (à quel point le modèle quantifié fait plus souvent des erreurs par rapport à l'original). Les quantifications Unsloth, quelle que soit leur précision, donnent de bien meilleurs résultats que leurs équivalents non-Unsloth, tant en précision qu’en erreur relative (bien qu’elles soient 8 Go plus petites). **Résultats clés :** * **Meilleur compromis qualité/taille ici : `unsloth UD-Q4_K_XL`.**\ C’est le plus proche de l’original : seulement **6,0 points** de moins, et « seulement » **+22.8%** plus d’erreurs que la base de référence. * **Les autres quants Q4 d’Unsloth ont des performances très proches (\~64,5–64,9 de précision).**\ `IQ4_NL`, `MXFP4_MOE`et `UD-IQ2_XXS` ont globalement la même qualité sur ce benchmark, avec **\~33–35 %** plus d’erreurs que l’original. * Les GGUF Unsloth donnent de bien meilleurs résultats que les autres GGUF non-Unsloth, par exemple voir `lmstudio-community - Q4_K_M` (bien qu’il soit 8 Go plus petit) et `AesSedai - IQ3_S`. ### Benchmarks officiels Vous pouvez voir plus bas les benchmarks sous forme de tableau :
BenchmarkMiniMax-M2.5MiniMax-M2.1Claude Opus 4.5Claude Opus 4.6Gemini 3 ProGPT-5.2 (réflexion)
AIME2586.383.091.095.696.098.0
GPQA-D85.283.087.090.091.090.0
SciCode44.441.050.052.056.052.0
IFBench70.070.058.053.070.075.0
AA-LCR69.562.074.071.071.073.0
SWE-Bench vérifié80.274.080.980.878.080.0
SWE-Bench Pro55.449.756.955.454.155.6
Terminal Bench 251.747.953.455.154.054.0
HLE sans outils19.422.228.430.737.231.4
Multi-SWE-Bench51.347.250.050.342.7—
SWE-Bench multilingue74.171.977.577.865.072.0
VIBE-Pro (MOY)54.242.455.255.636.9—
BrowseComp (avec ctx)76.362.067.884.059.265.8
Recherche large70.363.276.279.457.0—
RISE50.234.050.562.536.850.0
BFCL multi-tours76.837.468.063.361.0—
τ² Telecom97.887.098.299.398.098.7
MEWC74.455.682.189.878.741.3
GDPval-MM59.024.661.173.528.154.5
Modélisation financière21.617.330.133.215.020.0

Scores du benchmark principal de codage

Recherche et utilisation d’outils

Tâches accomplies par 100

Capacités de bureau

--- # Agent Instructions: Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter: ``` GET https://unsloth.ai/docs/fr/modeles/tutorials/minimax-m25.md?ask= ``` The question should be specific, self-contained, and written in natural language. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.