🔮Unsloth 模型目录

Unsloth 的 LLM 目录，包含我们所有的 动态 在 Hugging Face 上的 GGUF、4 位、16 位模型。

• GGUF + 4 位

QwenDeepSeekGemmaLlamaMistralGLM

GGUFs 让你可以在 Ollama、LM Studio 和 llama.cpp 等工具中运行模型。 Instruct（4 位） safetensors 可用于推理或微调。

新的和推荐的模型：

模型	变体	GGUF	Instruct（4 位）
Qwen3.5	35B-A3B	链接	—
	27B	链接	—
	122B-A10B	链接	—
	0.8B	链接	—
	2B	链接	—
	4B	链接	—
	9B	链接	—
	397B-A17B	链接	—
Qwen3	Coder-Next	链接	—
NVIDIA Nemotron 3	Super-120B-A12B	链接	链接
GLM	4.7-Flash	链接	—
	5	链接	—
Kimi	K2.5	链接	—
gpt-oss	120B	链接	链接
	20B	链接	链接
MiniMax	M2.5	链接	—
NVIDIA Nemotron 3	30B	链接	—
Qwen-Image	2512	链接	—
	Edit-2511	链接	—
Ministral 3	3B	Instruct • 推理	Instruct • 推理
	8B	Instruct • 推理	Instruct • 推理
	14B	Instruct • 推理	Instruct • 推理
Devstral 2	24B	链接	—
	123B	链接	—
Mistral Large 3	675B	链接	链接
Qwen3-Next	80B-A3B-Instruct	链接	链接
	80B-A3B-Thinking	链接	—
Qwen3-VL	2B-Instruct	链接	链接
	2B-Thinking	链接	链接
	4B-Instruct	链接	链接
	4B-Thinking	链接	链接
	8B-Instruct	链接	链接
	8B-Thinking	链接	链接
	30B-A3B-Instruct	链接	—
	30B-A3B-Thinking	链接	—
	32B-Instruct	链接	链接
	32B-Thinking	链接	链接
	235B-A22B-Instruct	链接	—
	235B-A22B-Thinking	链接	—
Qwen3-2507	30B-A3B-Instruct	链接	—
	30B-A3B-Thinking	链接	—
	235B-A22B-Instruct	链接	—
Qwen3-Coder	30B-A3B	链接	—
GLM	4.7	链接	—
	4.6V-Flash	链接	—
DeepSeek-V3.1	Terminus	链接	—
	V3.1	链接	—
Granite-4.0	H-Small	链接	链接
Kimi-K2	思考	链接	—
	0905	链接	—
Gemma 3n	E2B	链接	链接
	E4B	链接	链接

DeepSeek 模型：

模型	变体	GGUF	Instruct（4 位）
DeepSeek-V3.1	Terminus	链接
	V3.1	链接
DeepSeek-V3	V3-0324	链接	—
	V3	链接	—
DeepSeek-R1	R1-0528	链接	—
	R1-0528-Qwen3-8B	链接	链接
	R1	链接	—
	R1 Zero	链接	—
	蒸馏 Llama 3 8B	链接	链接
	蒸馏 Llama 3.3 70B	链接	链接
	蒸馏 Qwen 2.5 1.5B	链接	链接
	蒸馏 Qwen 2.5 7B	链接	链接
	蒸馏 Qwen 2.5 14B	链接	链接
	蒸馏 Qwen 2.5 32B	链接	链接

Llama 模型：

模型	变体	GGUF	Instruct（4 位）
Llama 4	Scout 17B-16E	链接	链接
	Maverick 17B-128E	链接	—
Llama 3.3	70B	链接	链接
Llama 3.2	1B	链接	链接
	3B	链接	链接
	11B 视觉	—	链接
	90B 视觉	—	链接
Llama 3.1	8B	链接	链接
	70B	—	链接
	405B	—	链接
Llama 3	8B	—	链接
	70B	—	链接
Llama 2	7B	—	链接
	13B	—	链接
CodeLlama	7B	—	链接
	13B	—	链接
	34B	—	链接

Gemma 模型：

模型	变体	GGUF	Instruct（4 位）
FunctionGemma	270M	链接	—
Gemma 3n	E2B	​链接	链接
	E4B	链接	链接
Gemma 3	270M	链接	链接
	1B	链接	链接
	4B	链接	链接
	12B	链接	链接
	27B	链接	链接
MedGemma	4B（视觉）	链接	链接
	27B（视觉）	链接	链接
Gemma 2	2B	链接	链接
	9B	—	链接
	27B	—	链接

Qwen 模型：

模型	变体	GGUF	Instruct（4 位）
Qwen3.5	35B-A3B	链接	—
	27B	链接	—
	122B-A10B	链接	—
	0.8B	链接	—
	2B	链接	—
	4B	链接	—
	9B	链接	—
	397B-A17B	链接	—
Qwen3	Coder-Next	链接	—
Qwen-Image	2512	链接	—
	Edit-2511	链接	—
Qwen3-VL	2B-Instruct	链接	链接
	2B-Thinking	链接	链接
	4B-Instruct	链接	链接
	4B-Thinking	链接	链接
	8B-Instruct	链接	链接
	8B-Thinking	链接	链接
Qwen3-Coder	30B-A3B	链接	—
	480B-A35B	链接	—
Qwen3-2507	30B-A3B-Instruct	链接	—
	30B-A3B-Thinking	链接	—
	235B-A22B-Thinking	链接	—
	235B-A22B-Instruct	链接	—
Qwen 3	0.6B	链接	链接
	1.7B	链接	链接
	4B	链接	链接
	8B	链接	链接
	14B	链接	链接
	30B-A3B	链接	链接
	32B	链接	链接
	235B-A22B	链接	—
Qwen 2.5 Omni	3B	链接	—
	7B	链接	—
Qwen 2.5 VL	3B	链接	链接
	7B	链接	链接
	32B	链接	链接
	72B	链接	链接
Qwen 2.5	0.5B	—	链接
	1.5B	—	链接
	3B	—	链接
	7B	—	链接
	14B	—	链接
	32B	—	链接
	72B	—	链接
Qwen 2.5 Coder（128K）	0.5B	链接	链接
	1.5B	链接	链接
	3B	链接	链接
	7B	链接	链接
	14B	链接	链接
	32B	链接	链接
QwQ	32B	链接	链接
QVQ（预览）	72B	—	链接
Qwen 2（聊天）	1.5B	—	链接
	7B	—	链接
	72B	—	链接
Qwen 2 VL	2B	—	链接
	7B	—	链接
	72B	—	链接

GLM 模型：

模型	变体	GGUF	Instruct（4 位）
GLM	4.7-Flash	链接	—
	5	链接	—
	4.6V-Flash	链接	—
	4.6	链接	—
	4.5-Air	链接	—

Mistral 模型：

模型	变体	GGUF	Instruct（4 位）
Magistral	Small（2506）	链接	链接
	Small（2509）	链接	链接
	Small（2507）	链接	链接
Mistral Small	3.2-24B（2506）	链接	链接
	3.1-24B（2503）	链接	链接
	3-24B（2501）	链接	链接
	2409-22B	—	链接
Devstral	Small-24B（2507）	链接	链接
	Small-24B（2505）	链接	链接
Pixtral	12B（2409）	—	链接
Mistral NeMo	12B（2407）	链接	链接
Mistral Large	2407	—	链接
Mistral 7B	v0.3	—	链接
	v0.2	—	链接
Mixtral	8 × 7B	—	链接

Phi 模型：

模型	变体	GGUF	Instruct（4 位）
Phi-4	推理加强版	链接	链接
	推理	链接	链接
	迷你推理	链接	链接
	Phi-4（instruct）	链接	链接
	mini（instruct）	链接	链接
Phi-3.5	迷你	—	链接
Phi-3	迷你	—	链接
	中等	—	链接

其他（GLM、Orpheus、Smol、Llava 等）模型：

模型	变体	GGUF	Instruct（4 位）
GLM	4.5-Air	链接	—
	4.5	4.5	—
	4-32B-0414	4-32B-0414	—
Grok 2	270B	链接	—
百度-ERNIE	4.5-21B-A3B-Thinking	链接	—
混元（Hunyuan）	A13B	链接	—
Orpheus	0.1-ft（3B）	链接	链接
LLava	1.5（7B）	—	链接
	1.6 Mistral（7B）	—	链接
TinyLlama	聊天	—	链接
SmolLM 2	135M	链接	链接
	360M	链接	链接
	1.7B	链接	链接
Zephyr-SFT	7B	—	链接
Yi	6B（v1.5）	—	链接
	6B（v1.0）	—	链接
	34B（聊天）	—	链接
	34B（基础）	—	链接

• Instruct 16 位

• 基础 4 & 16 位

• FP8