🔮Unsloth 模型目录

Unsloth 模型目录，适用于我们所有的 动态 Hugging Face 上的 GGUF、4 位、16 位模型。

• GGUF + 4 位

DeepSeekLlamaGemmaQwenMistralPhi

GGUFs 让您可以在 Ollama、Open WebUI 和 llama.cpp 等工具中运行模型。 Instruct（4 位） safetensors 可用于推理或微调。

新推荐模型：

模型	变体	GGUF	Instruct（4 位）
GLM-4.7	Flash	链接	—
gpt-oss	120B	链接	链接
	20B	链接	链接
NVIDIA Nemotron 3	30B	链接	—
Qwen-Image	2512	链接	—
	Edit-2511	链接	—
Ministral 3	3B	Instruct • 推理	Instruct • 推理
	8B	Instruct • 推理	Instruct • 推理
	14B	Instruct • 推理	Instruct • 推理
Devstral 2	24B	链接	—
	123B	链接	—
Mistral Large 3	675B	链接	链接
FunctionGemma	270M	链接	—
Qwen3-Next	80B-A3B-Instruct	链接	链接
	80B-A3B-Thinking	链接	—
Qwen3-VL	2B-Instruct	链接	链接
	2B-Thinking	链接	链接
	4B-Instruct	链接	链接
	4B-Thinking	链接	链接
	8B-Instruct	链接	链接
	8B-Thinking	链接	链接
	30B-A3B-Instruct	链接	—
	30B-A3B-Thinking	链接	—
	32B-Instruct	链接	链接
	32B-Thinking	链接	链接
	235B-A22B-Instruct	链接	—
	235B-A22B-Thinking	链接	—
Qwen3-2507	30B-A3B-Instruct	链接	—
	30B-A3B-Thinking	链接	—
	235B-A22B-Thinking	链接	—
	235B-A22B-Instruct	链接	—
Qwen3-Coder	30B-A3B	链接	—
	480B-A35B	链接	—
GLM	4.7	链接	—
	4.6V-Flash	链接	—
	4.6	链接	—
	4.5-Air	链接	—
DeepSeek-V3.1	终点（Terminus）	链接	—
	V3.1	链接	—
Granite-4.0	H-小型	链接	链接
Kimi-K2	Thinking	链接	—
	0905	链接	—
Gemma 3n	E2B	链接	链接
	E4B	链接	链接
DeepSeek-R1-0528	R1-0528-Qwen3-8B	链接	链接
	R1-0528	链接	—

DeepSeek 模型：

模型	变体	GGUF	Instruct（4 位）
DeepSeek-V3.1	终点（Terminus）	链接
	V3.1	链接
DeepSeek-V3	V3-0324	链接	—
	V3	链接	—
DeepSeek-R1	R1-0528	链接	—
	R1-0528-Qwen3-8B	链接	链接
	R1	链接	—
	R1 Zero	链接	—
	Distill Llama 3 8 B	链接	链接
	Distill Llama 3.3 70 B	链接	链接
	Distill Qwen 2.5 1.5 B	链接	链接
	Distill Qwen 2.5 7 B	链接	链接
	Distill Qwen 2.5 14 B	链接	链接
	Distill Qwen 2.5 32 B	链接	链接

Llama 模型：

模型	变体	GGUF	Instruct（4 位）
Llama 4	Scout 17 B-16 E	链接	链接
	Maverick 17 B-128 E	链接	—
Llama 3.3	70 B	链接	链接
Llama 3.2	1 B	链接	链接
	3 B	链接	链接
	11 B 视觉	—	链接
	90 B 视觉	—	链接
Llama 3.1	8 B	链接	链接
	70 B	—	链接
	405 B	—	链接
Llama 3	8 B	—	链接
	70 B	—	链接
Llama 2	7 B	—	链接
	13 B	—	链接
CodeLlama	7 B	—	链接
	13 B	—	链接
	34 B	—	链接

Gemma 模型：

模型	变体	GGUF	Instruct（4 位）
FunctionGemma	270M	链接	—
Gemma 3n	E2B	​链接	链接
	E4B	链接	链接
Gemma 3	270M	链接	链接
	1 B	链接	链接
	4 B	链接	链接
	12 B	链接	链接
	27 B	链接	链接
MedGemma	4 B（视觉）	链接	链接
	27 B（视觉）	链接	链接
Gemma 2	2 B	链接	链接
	9 B	—	链接
	27 B	—	链接

Qwen 模型：

模型	变体	GGUF	Instruct（4 位）
Qwen3-VL	2B-Instruct	链接	链接
	2B-Thinking	链接	链接
	4B-Instruct	链接	链接
	4B-Thinking	链接	链接
	8B-Instruct	链接	链接
	8B-Thinking	链接	链接
Qwen3-Coder	30B-A3B	链接	—
	480B-A35B	链接	—
Qwen3-2507	30B-A3B-Instruct	链接	—
	30B-A3B-Thinking	链接	—
	235B-A22B-Thinking	链接	—
	235B-A22B-Instruct	链接	—
Qwen 3	0.6 B	链接	链接
	1.7 B	链接	链接
	4 B	链接	链接
	8 B	链接	链接
	14 B	链接	链接
	30 B-A3B	链接	链接
	32 B	链接	链接
	235 B-A22B	链接	—
Qwen 2.5 Omni	3 B	链接	—
	7 B	链接	—
Qwen 2.5 VL	3 B	链接	链接
	7 B	链接	链接
	32 B	链接	链接
	72 B	链接	链接
Qwen 2.5	0.5 B	—	链接
	1.5 B	—	链接
	3 B	—	链接
	7 B	—	链接
	14 B	—	链接
	32 B	—	链接
	72 B	—	链接
Qwen 2.5 Coder（128 K）	0.5 B	链接	链接
	1.5 B	链接	链接
	3 B	链接	链接
	7 B	链接	链接
	14 B	链接	链接
	32 B	链接	链接
QwQ	32 B	链接	链接
QVQ（预览）	72 B	—	链接
Qwen 2（聊天）	1.5 B	—	链接
	7 B	—	链接
	72 B	—	链接
Qwen 2 VL	2 B	—	链接
	7 B	—	链接
	72 B	—	链接

Mistral 模型：

模型	变体	GGUF	Instruct（4 位）
Magistral	小型（2506）	链接	链接
	小型（2509）	链接	链接
	小型（2507）	链接	链接
Mistral 小型	3.2-24 B（2506）	链接	链接
	3.1-24 B（2503）	链接	链接
	3-24 B（2501）	链接	链接
	2409-22 B	—	链接
Devstral	小型-24 B（2507）	链接	链接
	小型-24 B（2505）	链接	链接
Pixtral	12 B（2409）	—	链接
Mistral NeMo	12 B（2407）	链接	链接
Mistral Large	2407	—	链接
Mistral 7 B	v0.3	—	链接
	v0.2	—	链接
Mixtral	8 × 7 B	—	链接

Phi 模型：

模型	变体	GGUF	Instruct（4 位）
Phi-4	推理增强（Reasoning-plus）	链接	链接
	推理	链接	链接
	Mini-Reasoning	链接	链接
	Phi-4（instruct）	链接	链接
	mini（instruct）	链接	链接
Phi-3.5	mini	—	链接
Phi-3	mini	—	链接
	中等（medium）	—	链接

其他（GLM、Orpheus、Smol、Llava 等）模型：

模型	变体	GGUF	Instruct（4 位）
GLM	4.5-Air	链接	—
	4.5	4.5	—
	4-32B-0414	4-32B-0414	—
Grok 2	270B	链接	—
百度-ERNIE	4.5-21B-A3B-Thinking	链接	—
浑元（Hunyuan）	A13B	链接	—
Orpheus	0.1-ft（3B）	链接	链接
LLava	1.5（7 B）	—	链接
	1.6 Mistral（7 B）	—	链接
TinyLlama	聊天（Chat）	—	链接
SmolLM 2	135 M	链接	链接
	360 M	链接	链接
	1.7 B	链接	链接
Zephyr-SFT	7 B	—	链接
Yi	6 B（v1.5）	—	链接
	6 B（v1.0）	—	链接
	34 B（聊天）	—	链接
	34 B（基础）	—	链接

• Instruct 16 位

• 基础 4 & 16 位

• FP8