MiniMax-M3.1-Flash : exécution locale
Exécutez MiniMax-M3.1-Flash localement avec les GGUF dynamiques d’Unsloth.
MiniMax-M3.1-Flash est le nouveau modèle de MiniMax 428B multimodal MoE, avec 23B de paramètres actifs et un contexte de 1M, conçu pour le codage et les usages agentiques. Découvrez comment exécuter MiniMax-M3.1-Flash à l’aide des GGUF Unsloth en local avec Unsloth Desktop ou llama.cpp.
Notre version de 129,4 Go 1 bit atteint environ 89,9 % de précision top-1 ; la version de 143,9 Go 2 bits atteint 91.5%, et la version 4 bits UD-Q4_K_XL de 249,4 Go atteint 98,0 %. En codage, Q2 atteint 91,2 % et Q4, 97,6 %. Nous avons pondéré les performances des quantifications dans sept catégories: codage, mathématiques, dialogue, outils, multilinguisme, raisonnement et usages agentiques. Merci à MiniMax pour l’accès dès le premier jour.
⚙️ Guide d’utilisation
MiniMax-M3.1-Flash prend en charge le texte, les images et la vidéo, et ajoute une attention éparse dans toutes les couches, la QAT pour l’attention et les experts routés, ainsi que DSpark.
Pour UD-Q2_K_XL en 2 bits, prévoyez au moins 160 Go de RAM + VRAM (ou de mémoire unifiée) ; pour UD-Q4_K_XL en 4 bits, prévoyez au moins 256 Go. Ces estimations de planification supposent un contexte texte de 16K et un seul emplacement parallèle.
Prévoyez de conserver l’intégralité des poids quantifiés en RAM et en VRAM, même si seuls 23B paramètres sont actifs par jeton. Utilisez le déchargement sur le processeur lorsque la mémoire GPU est limitée.
Configuration requise pour MiniMax-M3.1-Flash :
Tableau : configuration matérielle requise (RAM + VRAM, ou mémoire unifiée).
134 Go
150 Go
176–208 Go
256 Go
272 Go
Estimations de planification pour un contexte texte de 16K et un seul emplacement, avec environ 20 à 32 Gio de marge au-delà des poids pour le cache KV, l’environnement d’exécution et le système d’exploitation. Les capacités mémoire sont exprimées en Gio, souvent commercialisés sous l’appellation Go. Les contextes plus longs, la vision et DSpark nécessitent davantage de mémoire.
Pour le format 3 bits, prévoyez au moins 176 Go pour UD-IQ3_XXS, au moins 192 Go pour UD-IQ3_S, ou au moins 208 Go pour UD-Q3_K_XL. La colonne 8 bits désigne UD-Q8_K_XL, le GGUF de plus haute précision répertorié ici.
Tailles des poids : Les téléchargements ci-dessous sont indiqués en Go décimaux. Commencez avec un contexte de 16K, puis augmentez-le selon la mémoire disponible.
UD-IQ1_M
129,4 GB
120,5 Gio
UD-IQ2_XXS
134,9 GB
125,7 Gio
UD-Q2_K_XL
143,9 GB
134,0 Gio
UD-IQ3_XXS
160,0 GB
149,1 Gio
UD-IQ3_S
175,5 GB
163,4 Gio
UD-Q3_K_XL
194,0 GB
180,6 Gio
UD-Q4_K_XL
249,4 GB
232,3 Gio
UD-Q8_K_XL
259,1 GB
241,3 Gio
Paramètres recommandés
Utilisez les configurations recommandées par MiniMax :
Température
1.0
Top-p
0.95
Top-k
0 (désactivé)
Min-p
0.0 (désactivé)
Niveau de raisonnement
Le modèle utilise un raisonnement adaptatif. Définissez reasoning_effort sur low, medium, high, xhigh ou max. Nous utilisons high ; le niveau de raisonnement est indépendant des limites de contexte et de jetons de sortie.
📊 Analyse de la quantification
UD-Q8_K_XL est une conversion sans perte directe des fichiers safetensors d’origine. MiniMax utilise NVFP4 pour les couches MoE et MXFP8 pour le reste ; nous avons conservé NVFP4 + BF16 pour UD-Q8_K_XL.

Nous avons testé les versions quantifiées de MiniMax M3.1 Flash que nous avons produites et les versions génériques de llama.cpp + imatrix sur plusieurs domaines différents afin de vérifier que nos algorithmes de quantification ne sont pas surajustés à un domaine particulier. Nous montrons ainsi qu’Unsloth Dynamic v3 fonctionne remarquablement bien dans tous les domaines.
Nous avons également réalisé des graphiques pour le top 1 % et montrons que UD3 reste performant même avec moins de bits, par rapport aux dispositions naïves de llama.cpp avec imatrix.

Accord top-1 par quantification :
UD-IQ1_M
129,4 GB
86.2%
94.9%
UD-IQ2_XXS
134,9 GB
87.5%
95.3%
UD-Q2_K_XL
143,9 GB
88.5%
95.7%
UD-IQ3_XXS
160,0 GB
89.9%
96.3%
UD-IQ3_S
175,5 GB
91.2%
96.8%
UD-Q3_K_XL
194,0 GB
92.6%
97.4%
UD-Q4_K_XL
249,4 GB
97.3%
99.0%
UD-Q8_K_XL
259,1 GB
97.8%
99.3%
À taille comparable ou inférieure, les quantifications dynamiques présentent un KLD plus faible et un meilleur taux d’accord. UD-Q3_K_XL (194,0 Go) surpasse la quantification générique IQ4_XS (environ 230 Go) en matière d’accord top-1 dans les sept catégories.
Choisir une quantification : Q2 offre un taux d’accord de 88,5 % en conversation générale et de 95,7 % en mathématiques, pour 143,9 Go. Q4 porte ces taux à 97,3 % et 99,0 %, et fait passer l’accord multilingue de 90,8 % avec Q3 à 97,6 %. Q8 ajoute 9,7 Go pour un gain de fidélité plus modeste.
Tutoriels pour exécuter MiniMax-M3.1-Flash :
Nous utilisons UD-Q2_K_XL pour les exemples. L’entrée d’images et DSpark sont activés automatiquement dans Unsloth.
🦥 Guide Unsloth
Unsloth Desktop est notre interface open source pour macOS, Windows et Linux. Téléchargez des GGUF et configurez l’échantillonnage ainsi que le déchargement vers le processeur ou le GPU dans une seule application.
Installer Unsloth
Télécharger Unsloth Desktop pour votre système d’exploitation. Utilisez une version prenant en charge MiniMax-M3.1, ou la PR de llama.cpp ci-dessous.
Rechercher et télécharger MiniMax-M3.1-Flash
Dans Unsloth Chat ou dans le hub de modèles, recherchez MiniMax-M3.1-Flash et sélectionnez unsloth/MiniMax-M3.1-Flash-GGUF. Téléchargez votre quantification ; nous utilisons UD-Q2_K_XL (143,9 Go).
Exécuter MiniMax-M3.1-Flash
Chargez le modèle avec les paramètres recommandés : contexte de 16K, un emplacement parallèle et high pour l’effort de raisonnement. Utilisez le modèle de conversation inclus et ajustez le déchargement vers le processeur ou le GPU en fonction de la mémoire disponible.
Pour en savoir plus, consultez le guide d’inférence Unsloth.
🦙 Exécuter MiniMax-M3.1-Flash dans llama.cpp
Compiler llama.cpp avec la prise en charge de MiniMax-M3.1
Compiler PR #31192 à l’aide de Bash sous Linux, WSL ou macOS.
Sous Ubuntu / WSL, installez les dépendances de compilation :
Pour NVIDIA, installez le toolkit CUDA. Sous macOS, installez les outils de ligne de commande Xcode et CMake ; utilisez -DGGML_CUDA=OFF (Metal est activé par défaut). Utilisez OFF également pour les compilations exclusivement sur CPU.
Télécharger le fichier GGUF
Installez l’interface de ligne de commande Hugging Face et téléchargez les quatre fragments de UD-Q2_K_XL:
Gardez tous les fragments ensemble et indiquez --model le premier ; llama.cpp chargera les autres. Pour une autre quantification, modifiez le filtre de téléchargement et le chemin du modèle.
Entrées image
Pour les entrées image, téléchargez séparément le mmproj-BF16.gguf projecteur de vision (environ 1,74 Go) :
Ajoutez cette option au serveur et prévoyez davantage de mémoire pour le projecteur et le traitement des images :
⚡ DSpark – décodage spéculatif
M3.1 remplace le MTP de type EAGLE par DSpark : un modèle brouillon propose des jetons que le modèle principal vérifie, ce qui peut accélérer le décodage. Cette méthode nécessite un modèle brouillon MiniMax-M3.1 compatible et davantage de mémoire.
PR #31192 prend en charge DSpark ; les commandes ci-dessus utilisent le décodage standard. Avec un modèle brouillon compatible, ajoutez ces options et remplacez le nom de fichier par son chemin local :
📊 Benchmarks
Benchmarks KLD et Top-1 des fichiers GGUF
Sur les sept catégories, UD-Q2_K_XL atteint environ 85,3 à 95,7 % de concordance Top-1, UD-Q4_K_XL, environ 97,3 à 99,0 %, et UD-Q8_K_XL, environ 97,8 à 99,3 %. Q4 économise 9,7 Go par rapport à Q8, avec un écart de concordance minime ; Q8 présente également une KLD plus faible sur l’ensemble des mesures.

Benchmarks officiels
Les résultats officiels de MiniMax sont présentés ci-dessous.
Automation-Bench v1.0.6
62.8
60.5
Terminal Bench 4.0
38.1
42.3
DeepSWE v1.1
73.7
77.0
NL2Repo-Bench
61.2
68.2
BabyVision (avec outils)
91.0
92.5
HLE (sans outils)†
43.4
42.6
OSWorld 2.0
61.7
—
LOCA-Bench 256K
60.3
—
† HLE utilise le sous-ensemble texte uniquement. Outils d’évaluation : Codex 0.149.1 pour Terminal Bench ; mini-SWE-agent 2.4.5 pour DeepSWE ; Claude Code 2.1.233 pour NL2Repo. Les deux derniers utilisent un contexte de 512K. Les scores dépendent de la configuration et de l’effort de raisonnement ; — signifie qu’aucun résultat n’a été publié.
Mis à jour
Ce contenu vous a-t-il été utile ?

