🔮Unsloth-Modellkatalog

Unsloth LLM-Verzeichnis für alle unsere Dynamischarrow-up-right GGUF-, 4-Bit-, 16-Bit-Modelle auf Hugging Face.

QwenDeepSeekGemmaLlamaMistralGLM

GGUFs lassen Sie Modelle in Tools wie Unsloth Studio✨, Ollama und llama.cpp ausführen. Instruct (4-Bit) safetensors können für Inferenz oder Feinabstimmung über Unsloth verwendet werden.

Neue & empfohlene Modelle:

Modell
Variante
GGUF
Instruct (4-Bit)

122B-A10B

397B-A17B

Edit-2511

80B-A3B-Thinking

30B-A3B-Instruct

30B-A3B-Thinking

235B-A22B-Instruct

235B-A22B-Thinking

30B-A3B-Instruct

30B-A3B-Thinking

235B-A22B-Instruct

4.6V-Flash

Kimi-K2

Denken

DeepSeek-Modelle:

Modell
Variante
GGUF
Instruct (4-Bit)

Llama-Modelle:

Gemma-Modelle:

Qwen-Modelle:

Modell
Variante
GGUF
Instruct (4-Bit)

122B-A10B

397B-A17B

Edit-2511

Qwen3-Coder

30B-A3B

480B-A35B

30B-A3B-Instruct

30B-A3B-Thinking

235B-A22B-Thinking

235B-A22B-Instruct

235 B-A22B

Qwen 2.5 Omni

3 B

Qwen 2.5

0,5 B

Qwen 2.5 Coder (128 K)

0,5 B

QVQ (Vorschau)

72 B

Qwen 2 (Chat)

1,5 B

Qwen 2 VL

2 B

GLM-Modelle:

Modell
Variante
GGUF
Instruct (4-Bit)

Mistral-Modelle:

Modell
Variante
GGUF
Instruct (4-Bit)

Phi-Modelle:

Andere (GLM, Orpheus, Smol, Llava etc.) Modelle:

Modell
Variante
GGUF
Instruct (4-Bit)

GLM

4.5-Air

Grok 2

270B

Baidu-ERNIE

4.5-21B-A3B-Thinking

Hunyuan

A13B

Orpheus

0.1-ft (3B)

LLava

1.5 (7 B)

1.6 Mistral (7 B)

TinyLlama

Chat

Zephyr-SFT

7 B

Yi

6 B (v1.5)

6 B (v1.0)

34 B (Chat)

34 B (Basis)

Zuletzt aktualisiert

War das hilfreich?