Introducing Unsloth Studio: a new web UI for local AI

⌘Ctrlk

Reddit Discord GitHub Newsletter

由 GitBook 提供支持

For the complete documentation index, see llms.txt. This page is also available as Markdown.

开始使用

🔮Unsloth 模型目录

Unsloth 大语言模型目录，涵盖我们所有的动态 Hugging Face 上的 GGUF、4 位和 16 位模型。

Qwen Gemma DeepSeek Llama Mistral GLM

GGUF 文件 可让你在以下工具中运行模型： Unsloth Studio✨、Ollama 和 llama.cpp。 指令（4 位） safetensors 可通过 Unsloth 用于推理或微调。

新模型与推荐模型：

模型

变体

GGUF

指令（4 位）

27B

35B-A3B

DiffusionGemma

26B-A4B

—

12B

—

26B-A4B

—

31B

E4B

E2B

Kimi

—

NVIDIA Nemotron 3

Nano-Omni-30B-A3B

—

35B-A3B

—

27B

—

122B-A10B

—

0.8B

—

2B

—

4B

—

9B

—

397B-A17B

—

Qwen3

—

NVIDIA Nemotron 3

Super-120B-A12B

—

GLM

—

—

Kimi

K2.5

—

120B

链接

20B

MiniMax

—

NVIDIA Nemotron 3

30B

—

2512

—

Edit-2511

—

Ministral 3

3B

指令 • 推理

指令 • 推理

8B

指令 • 推理

指令 • 推理

14B

指令 • 推理

指令 • 推理

24B

链接

—

123B

—

Mistral Large 3

675B

80B-A3B-指令

80B-A3B-思考

—

2B-指令

链接

2B-思考

4B-指令

4B-思考

8B-指令

8B-思考

30B-A3B-指令

—

30B-A3B-思考

链接

—

32B-指令

链接

32B-思考

235B-A22B-指令

—

235B-A22B-思考

链接

—

30B-A3B-指令

—

30B-A3B-思考

链接

—

235B-A22B-指令

链接

—

Qwen3-Coder

30B-A3B

—

4.7

—

4.6V-Flash

—

DeepSeek-V3.1

Terminus

—

V3.1

—

Granite-4.0

H-Small

Kimi-K2

思考

—

0905

—

DeepSeek 模型：

模型

变体

GGUF

指令（4 位）

DeepSeek-V3.1

Terminus

V3.1

DeepSeek-V3

V3-0324

—

V3

—

DeepSeek-R1

R1-0528

—

R1-0528-Qwen3-8B

R1

—

R1 Zero

—

Distill Llama 3 8 B

Distill Llama 3.3 70 B

Distill Qwen 2.5 1.5 B

Distill Qwen 2.5 7 B

Distill Qwen 2.5 14 B

Distill Qwen 2.5 32 B

Llama 模型：

模型

变体

GGUF

指令（4 位）

Llama 4

Scout 17 B-16 E

Maverick 17 B-128 E

—

Llama 3.3

70 B

Llama 3.2

1 B

3 B

11 B 视觉

—

90 B 视觉

—

Llama 3.1

8 B

70 B

—

405 B

—

Llama 3

8 B

—

70 B

—

Llama 2

7 B

—

13 B

—

CodeLlama

7 B

—

13 B

—

34 B

—

Gemma 模型：

模型

变体

GGUF

指令（4 位）

Gemma 4

E2B

E4B

26B-A4B

—

31B

FunctionGemma

270M

—

Gemma 3n

E2B

\u200b链接

链接

E4B

链接

Gemma 3

270M

1 B

4 B

12 B

27 B

MedGemma

4 B（视觉）

27 B（视觉）

Gemma 2

2 B

9 B

—

27 B

—

Qwen 模型：

模型

变体

GGUF

指令（4 位）

27B

—

35B-A3B

—

35B-A3B

—

27B

—

122B-A10B

—

0.8B

—

2B

—

4B

—

9B

—

397B-A17B

—

Qwen3

—

2512

—

Edit-2511

—

2B-指令

链接

2B-思考

4B-指令

4B-思考

8B-指令

8B-思考

Qwen3-Coder

30B-A3B

—

480B-A35B

—

30B-A3B-指令

—

30B-A3B-思考

链接

—

235B-A22B-思考

链接

—

235B-A22B-指令

链接

—

Qwen 3

0.6 B

1.7 B

4 B

8 B

14 B

30 B-A3B

32 B

235 B-A22B

—

Qwen 2.5 Omni

3 B

—

7 B

—

Qwen 2.5 VL

3 B

7 B

32 B

72 B

Qwen 2.5

0.5 B

—

1.5 B

—

3 B

—

7 B

—

14 B

—

32 B

—

72 B

—

Qwen 2.5 Coder（128K）

0.5 B

1.5 B

3 B

7 B

14 B

32 B

QwQ

32 B

QVQ（预览）

72 B

—

Qwen 2（聊天）

1.5 B

—

7 B

—

72 B

—

Qwen 2 VL

2 B

—

7 B

—

72 B

—

GLM 模型：

模型

变体

GGUF

指令（4 位）

GLM

—

—

4.6V-Flash

—

4.6

—

4.5-Air

—

Mistral 模型：

模型

变体

GGUF

指令（4 位）

Magistral

Small（2506）

Small（2509）

Small（2507）

Mistral Small

3.2-24 B（2506）

3.1-24 B（2503）

3-24 B（2501）

2409-22 B

—

Devstral

Small-24 B（2507）

Small-24 B（2505）

Pixtral

12 B（2409）

—

Mistral NeMo

12 B（2407）

Mistral Large

2407

—

Mistral 7 B

v0.3

—

v0.2

—

Mixtral

8 × 7 B

—

Phi 模型：

模型

变体

GGUF

指令（4 位）

Phi-4

推理增强

推理

迷你推理

Phi-4（指令）

迷你（指令）

Phi-3.5

mini

—

Phi-3

mini

—

中等

—

其他（GLM、Orpheus、Smol、Llava 等）模型：

模型

变体

GGUF

指令（4 位）

GLM

4.5-Air

—

4.5

4.5

—

4-32B-0414

—

Grok 2

270B

—

百度 ERNIE

4.5-21B-A3B-思考

—

混元

A13B

—

Orpheus

0.1-ft（3B）

LLaVA

1.5（7 B）

—

1.6 Mistral（7 B）

—

TinyLlama

聊天

—

SmolLM 2

135 M

360 M

1.7 B

Zephyr-SFT

7 B

—

Yi

6 B（v1.5）

—

6 B（v1.0）

—

34 B（聊天）

—

34 B（基础）

—

16 位和 8 位指令模型用于推理或微调，在 Unsloth Studio:

新模型：

模型

变体

指令（16 位）

gpt-oss （新）

20b

120b

Gemma 3n

E2B

E4B

DeepSeek-R1-0528

R1-0528-Qwen3-8B

R1-0528

Mistral

Small 3.2 24B（2506）

Small 3.1 24B（2503）

Small 3.0 24B（2501）

Magistral Small（2506）

Qwen 3

0.6 B

1.7 B

4 B

8 B

14 B

30B-A3B

32 B

235B-A22B

Llama 4

Scout 17B-16E

Maverick 17B-128E

Qwen 2.5 Omni

3 B

7 B

Phi-4

推理增强

推理

DeepSeek 模型

模型

变体

指令（16 位）

DeepSeek-V3

V3-0324

V3

DeepSeek-R1

R1-0528

R1-0528-Qwen3-8B

R1

R1 Zero

Distill Llama 3 8B

Distill Llama 3.3 70B

Distill Qwen 2.5 1.5B

Distill Qwen 2.5 7B

Distill Qwen 2.5 14B

Distill Qwen 2.5 32B

Llama 模型

系列

变体

指令（16 位）

Llama 4

Scout 17B-16E

Maverick 17B-128E

Llama 3.3

70 B

Llama 3.2

1 B

3 B

11 B 视觉

90 B 视觉

Llama 3.1

8 B

70 B

405 B

Llama 3

8 B

70 B

Llama 2

7 B

Gemma 模型：

模型

变体

指令（16 位）

Gemma 3n

E2B

E4B

Gemma 3

1 B

4 B

12 B

27 B

Gemma 2

2 B

9 B

27 B

Qwen 模型：

系列

变体

指令（16 位）

Qwen 3

0.6 B

链接

1.7 B

4 B

8 B

14 B

30B-A3B

32 B

235B-A22B

Qwen 2.5 Omni

3 B

7 B

Qwen 2.5 VL

3 B

7 B

32 B

72 B

Qwen 2.5

0.5 B

1.5 B

3 B

7 B

14 B

32 B

72 B

Qwen 2.5 Coder 128K

0.5 B

1.5 B

3 B

7 B

14 B

32 B

QwQ

32 B

QVQ（预览）

72 B

—

Qwen 2（聊天）

1.5 B

链接

7 B

72 B

Qwen 2 VL

2 B

7 B

72 B

Mistral 模型：

模型

变体

指令（16 位）

Mistral

Small 2409-22B

Mistral

Large 2407

Mistral

7B v0.3

Mistral

7B v0.2

Pixtral

12B 2409

Mixtral

8×7B

Mistral NeMo

12B 2407

Devstral

Small 2505

Phi 模型：

模型

变体

指令（16 位）

Phi-4

推理增强

推理

Phi-4（核心）

迷你推理

迷你

Phi-3.5

迷你

Phi-3

迷你

中等

文本转语音（TTS）模型：

模型

指令（16 位）

Orpheus-3B（v0.1 微调）

Orpheus-3B（v0.1 预训练）

Sesame-CSM 1B

Whisper Large V3（STT）

Llasa-TTS 1B

Spark-TTS 0.5B

Oute-TTS 1B

基础模型通常用于微调用途：

新模型：

模型

变体

基础（16 位）

基础（4 位）

Gemma 3n

E2B

E4B

Qwen 3

0.6 B

1.7 B

4 B

8 B

14 B

30B-A3B

Llama 4

Scout 17B 16E

Maverick 17B 128E

—

Llama 模型：

模型

变体

基础（16 位）

基础（4 位）

Llama 4

Scout 17B 16E

—

Maverick 17B 128E

—

Llama 3.3

70 B

—

Llama 3.2

1 B

—

3 B

—

11 B 视觉

—

90 B 视觉

—

Llama 3.1

8 B

—

70 B

—

Llama 3

8 B

Llama 2

7 B

13 B

Qwen 模型：

模型

变体

基础（16 位）

基础（4 位）

Qwen 3

0.6 B

1.7 B

4 B

8 B

14 B

30B-A3B

Qwen 2.5

0.5 B

1.5 B

3 B

7 B

14 B

32 B

72 B

Qwen 2

1.5 B

7 B

Llama 模型：

模型

变体

基础（16 位）

基础（4 位）

Llama 4

Scout 17B 16E

—

Maverick 17B 128E

—

Llama 3.3

70 B

—

Llama 3.2

1 B

—

3 B

—

11 B 视觉

—

90 B 视觉

—

Llama 3.1

8 B

—

70 B

—

Llama 3

8 B

Llama 2

7 B

13 B

Gemma 模型

模型

变体

基础（16 位）

基础（4 位）

Gemma 3

1 B

4 B

12 B

27 B

Gemma 2

2 B

—

9 B

—

27 B

—

Mistral 模型：

模型

变体

基础（16 位）

基础（4 位）

Mistral

Small 24B 2501

—

NeMo 12B 2407

—

7B v0.3

7B v0.2

Pixtral 12B 2409

—

其他（TTS、TinyLlama）模型：

模型

变体

基础（16 位）

基础（4 位）

TinyLlama

1.1 B（基础）

Orpheus-3b

0.1-预训练

你可以使用我们的 FP8 上传版本进行训练或提供服务/部署。

与 FP8 Block 相比，FP8 Dynamic 的训练速度略快、显存占用更低，但准确率会有轻微折中。

模型

变体

FP8（动态 / 分块）

Qwen3

Coder-Next

动态 · 分块

GLM

4.7-Flash

Llama 3.3

70B 指令

动态 · 分块

Llama 3.2

1B 基础

动态 · 分块

1B 指令版

动态 · 分块

3B 基础版

动态 · 分块

3B 指令版

动态 · 分块

Llama 3.1

8B 基础版

动态 · 分块

8B 指令版

动态 · 分块

70B 基础版

动态 · 分块

Qwen3

0.6B

1.7B

4B

8B

14B

32B

235B-A22B

Qwen3 (2507)

4B 指令版

4B 思考版

30B-A3B 指令版

30B-A3B 思考版

235B-A22B 指令版

235B-A22B 思考版

Qwen3-VL

4B 指令版

4B 思考版

8B 指令版

8B 思考版

Qwen3-Coder

480B-A35B 指令版

Granite 4.0

h-tiny

h-small

Magistral 小型版

2509

FP8 动态 · FP8 torchao

Mistral 小型 3.2

24B 指令版-2506

Gemma 3

270M-it torchao 270m — FP8 1B — FP8 4B — FP8 12B — FP8 27B — FP8

上一页Homepage 下一页Beginner?

最后更新于 1天前

这有帮助吗？

Community

Reddit r/unsloth
Twitter (X)
LinkedIn

Resources

Tutorials
Docker
Hugging Face

Company

Unsloth Studio
Contact
Events

© Unsloth, 2026

这有帮助吗？