🔮Unsloth 模型目录

Unsloth 所有模型的 LLM 目录动态 Hugging Face 上的 GGUF、4 位、16 位模型。

GGUF 可让你在以下工具中运行模型： Unsloth Studio✨、Ollama 和 llama.cpp。 指令（4 位） safetensors 可通过 Unsloth 用于推理或微调。

NVIDIA Nemotron 3

Mistral Large 3

235B-A22B-指令

235B-A22B-思考

235B-A22B-指令

Granite-4.0

DeepSeek-V3.1

DeepSeek-V3

DeepSeek-R1

R1-0528-Qwen3-8B

蒸馏 Llama 3 8B

蒸馏 Llama 3.3 70B

蒸馏 Qwen 2.5 1.5B

蒸馏 Qwen 2.5 7B

蒸馏 Qwen 2.5 14B

蒸馏 Qwen 2.5 32B

Scout 17B-16E

Maverick 17B-128E

Llama 3.3

Llama 3.2

Llama 3.1

CodeLlama

FunctionGemma

Gemma 3n

MedGemma

Qwen3-Coder

235B-A22B-思考

235B-A22B-指令

Qwen 2.5 Omni

Qwen 2.5 VL

Qwen 2.5

Qwen 2.5 Coder（128K）

Qwen 2（聊天）

Qwen 2 VL

Magistral

Mistral Small

3.2-24B（2506）

3.1-24B（2503）

Devstral

Small-24B（2507）

Small-24B（2505）

Mistral NeMo

Mistral Large

Mistral 7B

百度 ERNIE

4.5-21B-A3B-思考

1.6 Mistral（7B）

TinyLlama

SmolLM 2

Zephyr-SFT

16 位和 8 位指令模型用于以下场景中的推理或微调： Unsloth Studio:

gpt-oss （新）

Gemma 3n

DeepSeek-R1-0528

R1-0528-Qwen3-8B

Small 3.2 24B（2506）

Small 3.1 24B（2503）

Small 3.0 24B（2501）

Magistral Small（2506）

Scout 17B-16E

Maverick 17B-128E

Qwen 2.5 Omni

DeepSeek 模型

DeepSeek-V3

DeepSeek-R1

R1-0528-Qwen3-8B

蒸馏 Llama 3 8B

蒸馏 Llama 3.3 70B

蒸馏 Qwen 2.5 1.5B

蒸馏 Qwen 2.5 7B

蒸馏 Qwen 2.5 14B

蒸馏 Qwen 2.5 32B

Llama 模型

Scout 17B-16E

Maverick 17B-128E

Llama 3.3

Llama 3.2

Llama 3.1

Gemma 模型：

Gemma 3n

Qwen 模型：

Qwen 2.5 Omni

Qwen 2.5 VL

Qwen 2.5

Qwen 2.5 Coder 128K

Qwen 2（聊天）

Qwen 2 VL

Mistral 模型：

Small 2409-22B

Mistral NeMo

Devstral

文本转语音（TTS）模型：

Orpheus-3B（v0.1 ft）

Orpheus-3B（v0.1 pt）

Sesame-CSM 1B

Whisper Large V3（语音转文本）

Llasa-TTS 1B

Spark-TTS 0.5B

hashtag新增与推荐模型：

hashtagDeepSeek 模型：

hashtagLlama 模型：

hashtagGemma 模型：

hashtagQwen 模型：

hashtagGLM 模型：

hashtagMistral 模型：

hashtagPhi 模型：

hashtag其他（GLM、Orpheus、Smol、Llava 等）模型：

新增与推荐模型：

DeepSeek 模型：

Llama 模型：

Gemma 模型：

Qwen 模型：

GLM 模型：

Mistral 模型：

Phi 模型：

其他（GLM、Orpheus、Smol、Llava 等）模型：