🔮Unsloth 模型目录

适用于所有 Unsloth 的 LLM 目录 动态 Hugging Face 上的 GGUF、4 位、NVFP4 模型。

QwenGemmaDeepSeekLlamaMistralGLM

GGUF 文件 可让你在如下工具中运行模型 Unsloth Desktop✨ 和 llama.cpp。 使用 指令（4 位） 用于通过 Unsloth 进行推理或微调的 safetensors。

新模型和推荐模型：

模型	版本	GGUF	4 位
Qwen3.8 （新）	27B	链接	NVFP4
	Flash-Next （新）	链接
	2.4T-A95B	链接
GLM-5.3 （新）	Flash	链接
	5.3	链接
Muse Glimmer	30B	链接	链接
DeepSeek-V4	V4-Flash-Vision-Exp	链接
	V4-Pro-0813	链接
	Flash-0731	链接	链接
NVIDIA Nemotron-3.5 （新）	30B Lightning	链接
Kimi	K3	链接	链接
Qwen3.6	27B	链接 • MTP	NVFP4
	35B-A3B	链接 • MTP	NVFP4
Gemma 4	QAT	链接	链接
	12B	链接	NVFP4
	26B-A4B	链接	NVFP4
	31B	链接	链接 • NVFP4
	E4B	链接	链接 • NVFP4
	E2B	链接	链接 • NVFP4
DiffusionGemma	26B-A4B	链接	—
Kimi	K2.7-Code	链接	—
	K2.6	链接	—
NVIDIA Nemotron 3	Nano-Omni-30B-A3B	链接	—
Qwen3.5	35B-A3B	链接	—
	27B	链接	—
	122B-A10B	链接	—
	0.8B	链接	—
	2B	链接	—
	4B	链接	—
	9B	链接	—
	397B-A17B	链接	—
Qwen3	Coder-Next	链接	—
NVIDIA Nemotron 3	Super-120B-A12B	链接	链接
	Nano-4B	链接	—
GLM	4.7-Flash	链接	—
	5	链接	—
Kimi	K2.5	链接	—
gpt-oss	120B	链接	链接
	20B	链接	链接
MiniMax	M2.5	链接	—
NVIDIA Nemotron 3	30B	链接	—
Qwen-Image	2512	链接	—
	Edit-2511	链接	—
Ministral 3	3B	指令 • 推理	指令 • 推理
	8B	指令 • 推理	指令 • 推理
	14B	指令 • 推理	指令 • 推理
Devstral 2	24B	链接	—
	123B	链接	—
Mistral Large 3	675B	链接	链接
Qwen3-Next	80B-A3B-指令	链接	链接
	80B-A3B-推理	链接	—
Qwen3-VL	2B-指令	链接	链接
	2B-推理	链接	链接
	4B-指令	链接	链接
	4B-推理	链接	链接
	8B-指令	链接	链接
	8B-推理	链接	链接
	30B-A3B-指令	链接	—
	30B-A3B-推理	链接	—
	32B-指令	链接	链接
	32B-推理	链接	链接
	235B-A22B-指令	链接	—
	235B-A22B-推理	链接	—
Qwen3-2507	30B-A3B-指令	链接	—
	30B-A3B-推理	链接	—
	235B-A22B-指令	链接	—
Qwen3-Coder	30B-A3B	链接	—
GLM	4.7	链接	—
	4.6V-Flash	链接	—
DeepSeek-V3.1	Terminus	链接	—
	V3.1	链接	—

DeepSeek 模型：

模型	版本	GGUF	指令（4 位）
DeepSeek-V3.1	Terminus	链接
	V3.1	链接
DeepSeek-V3	V3-0324	链接	—
	V3	链接	—
DeepSeek-R1	R1-0528	链接	—
	R1-0528-Qwen3-8B	链接	链接
	R1	链接	—
	R1 Zero	链接	—
	蒸馏 Llama 3 8 B	链接	链接
	蒸馏 Llama 3.3 70 B	链接	链接
	蒸馏 Qwen 2.5 1.5 B	链接	链接
	蒸馏 Qwen 2.5 7 B	链接	链接
	蒸馏 Qwen 2.5 14 B	链接	链接
	蒸馏 Qwen 2.5 32 B	链接	链接

Llama 模型：

模型	版本	GGUF	4 位
Muse Glimmer	30B	链接	链接
Llama 4	Scout 17 B-16 E	链接	链接
	Maverick 17 B-128 E	链接	—
Llama 3.3	70 B	链接	链接
Llama 3.2	1 B	链接	链接
	3 B	链接	链接
	11 B 视觉	—	链接
	90 B 视觉	—	链接
Llama 3.1	8 B	链接	链接
	70 B	—	链接
	405 B	—	链接
Llama 3	8 B	—	链接
	70 B	—	链接
Llama 2	7 B	—	链接
	13 B	—	链接
CodeLlama	7 B	—	链接
	13 B	—	链接
	34 B	—	链接

Gemma 模型：

模型	版本	GGUF	指令（4 位）
Gemma 4	E2B	链接	链接
	E4B	链接	链接
	26B-A4B	链接	—
	31B	链接	链接
FunctionGemma	270M	链接	—
Gemma 3n	E2B	​链接	链接
	E4B	链接	链接
Gemma 3	270M	链接	链接
	1 B	链接	链接
	4 B	链接	链接
	12 B	链接	链接
	27 B	链接	链接
MedGemma	4 B（视觉）	链接	链接
	27 B（视觉）	链接	链接
Gemma 2	2 B	链接	链接
	9 B	—	链接
	27 B	—	链接

Qwen 模型：

模型	版本	GGUF	指令（4 位）
Qwen3.8 （新）	27B	链接	NVFP4
	2.4T-A95B	链接
Qwen3.6	27B	链接	—
	35B-A3B	链接	—
Qwen3.5	35B-A3B	链接	—
	27B	链接	—
	122B-A10B	链接	—
	0.8B	链接	—
	2B	链接	—
	4B	链接	—
	9B	链接	—
	397B-A17B	链接	—
Qwen3	Coder-Next	链接	—
Qwen-Image	2512	链接	—
	Edit-2511	链接	—
Qwen3-VL	2B-指令	链接	链接
	2B-推理	链接	链接
	4B-指令	链接	链接
	4B-推理	链接	链接
	8B-指令	链接	链接
	8B-推理	链接	链接
Qwen3-Coder	30B-A3B	链接	—
	480B-A35B	链接	—
Qwen3-2507	30B-A3B-指令	链接	—
	30B-A3B-推理	链接	—
	235B-A22B-推理	链接	—
	235B-A22B-指令	链接	—
Qwen 3	0.6 B	链接	链接
	1.7 B	链接	链接
	4 B	链接	链接
	8 B	链接	链接
	14 B	链接	链接
	30 B-A3B	链接	链接
	32 B	链接	链接
	235 B-A22B	链接	—
Qwen 2.5 Omni	3 B	链接	—
	7 B	链接	—
Qwen 2.5 VL	3 B	链接	链接
	7 B	链接	链接
	32 B	链接	链接
	72 B	链接	链接
Qwen 2.5	0.5 B	—	链接
	1.5 B	—	链接
	3 B	—	链接
	7 B	—	链接
	14 B	—	链接
	32 B	—	链接
	72 B	—	链接
Qwen 2.5 Coder（128 K）	0.5 B	链接	链接
	1.5 B	链接	链接
	3 B	链接	链接
	7 B	链接	链接
	14 B	链接	链接
	32 B	链接	链接
QwQ	32 B	链接	链接
QVQ（预览）	72 B	—	链接
Qwen 2（聊天）	1.5 B	—	链接
	7 B	—	链接
	72 B	—	链接
Qwen 2 VL	2 B	—	链接
	7 B	—	链接
	72 B	—	链接

GLM 模型：

模型	版本	GGUF	指令（4 位）
GLM-5	5.3-Flash	链接
	5.3	链接
GLM	4.7-Flash	链接	—
	5	链接	—
	4.6V-Flash	链接	—
	4.6	链接	—
	4.5-Air	链接	—

Mistral 模型：

模型	版本	GGUF	指令（4 位）
Magistral	小型（2506）	链接	链接
	小型（2509）	链接	链接
	小型（2507）	链接	链接
Mistral Small	3.2-24 B（2506）	链接	链接
	3.1-24 B（2503）	链接	链接
	3-24 B（2501）	链接	链接
	2409-22 B	—	链接
Devstral	小型-24 B（2507）	链接	链接
	小型-24 B（2505）	链接	链接
Pixtral	12 B（2409）	—	链接
Mistral NeMo	12 B（2407）	链接	链接
Mistral Large	2407	—	链接
Mistral 7 B	v0.3	—	链接
	v0.2	—	链接
Mixtral	8 × 7 B	—	链接

Phi 模型：

模型	版本	GGUF	指令（4 位）
Phi-4	推理增强版	链接	链接
	推理	链接	链接
	迷你推理版	链接	链接
	Phi-4（指令）	链接	链接
	mini（指令）	链接	链接
Phi-3.5	mini	—	链接
Phi-3	mini	—	链接
	中型	—	链接

其他（GLM、Orpheus、Smol、Llava 等）模型：

模型	版本	GGUF	指令（4 位）
GLM	4.5-Air	链接	—
	4.5	4.5	—
	4-32B-0414	4-32B-0414	—
Grok 2	270B	链接	—
Baidu-ERNIE	4.5-21B-A3B-推理	链接	—
Hunyuan	A13B	链接	—
Orpheus	0.1-ft (3B)	链接	链接
LLava	1.5 (7 B)	—	链接
	1.6 Mistral (7 B)	—	链接
TinyLlama	聊天	—	链接
SmolLM 2	135 M	链接	链接
	360 M	链接	链接
	1.7 B	链接	链接
Zephyr-SFT	7 B	—	链接
Yi	6 B (v1.5)	—	链接
	6 B (v1.0)	—	链接
	34 B（聊天）	—	链接
	34 B（基础）	—	链接