# Unsloth モデルカタログ
Unsloth LLM のディレクトリ、すべての [動的](https://docs.unsloth.ai/basics/unsloth-dynamic-2.0-ggufs) Hugging Face 上の GGUF、4ビット、16ビットモデル。
{% tabs %}
{% tab title="• GGUF + 4ビット" %} QwenDeepSeekGemmaLlamaMistralGLM
**GGUF は** 次のようなツールでモデルを実行できます [**Unsloth Studio**](https://unsloth.ai/docs/jp/xin-zhe/studio)✨、Ollama、llama.cpp。\
**Instruct（4ビット）** safetensors は、Unsloth を介した推論またはファインチューニングに使用できます。
#### **新規・推奨モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ---------------------------------------------------------------------------------------------------------------------------- | -------------------------------------------------------------------------------- | -------------------------------------------------------------------------------------------------------------------------------------------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| [**Gemma 4**](https://unsloth.ai/docs/jp/moderu/gemma-4) | 26B-A4B | [リンク](https://huggingface.co/unsloth/gemma-4-26B-A4B-it-GGUF) | — |
| | 31B | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-unsloth-bnb-4bit) |
| | E4B | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-unsloth-bnb-4bit) |
| | E2B | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-unsloth-bnb-4bit) |
| [**Qwen3.5**](https://github.com/unslothai/docs/blob/main/models/qwen3.5) | 35B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF) | — |
| | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.5-27B-GGUF) | — |
| | 122B-A10B | [リンク](https://huggingface.co/unsloth/Qwen3.5-122B-A10B-GGUF) | — |
| | 0.8B | [リンク](https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF) | — |
| | 2B | [リンク](https://huggingface.co/unsloth/Qwen3.5-2B-GGUF) | — |
| | 4B | [リンク](https://huggingface.co/unsloth/Qwen3.5-4B-GGUF) | — |
| | 9B | [リンク](https://huggingface.co/unsloth/Qwen3.5-9B-GGUF) | — |
| | 397B-A17B | [リンク](https://huggingface.co/unsloth/Qwen3.5-397B-A17B-GGUF) | — |
| **Qwen3** | [Coder-Next](https://unsloth.ai/docs/jp/moderu/qwen3-coder-next) | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-Next-GGUF) | — |
| NVIDIA Nemotron 3 | [Super-120B-A12B](https://unsloth.ai/docs/jp/moderu/nemotron-3/nemotron-3-super) | [リンク](https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF) | [リンク](https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4) |
| | [Nano-4B](https://unsloth.ai/docs/jp/moderu/nemotron-3) | [リンク](https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Nano-4B-GGUF) | — |
| **GLM** | [4.7-Flash](https://unsloth.ai/docs/jp/moderu/glm-4.7-flash) | [リンク](https://huggingface.co/unsloth/GLM-4.7-Flash-GGUF) | — |
| | [5](https://unsloth.ai/docs/jp/moderu/tutorials/glm-5) | [リンク](https://huggingface.co/unsloth/GLM-5-GGUF) | — |
| **Kimi** | [K2.5](https://unsloth.ai/docs/jp/moderu/kimi-k2.5) | [リンク](https://huggingface.co/unsloth/Kimi-K2.5-GGUF) | — |
| [**gpt-oss**](https://unsloth.ai/docs/jp/moderu/gpt-oss-how-to-run-and-fine-tune) | 120B | [リンク](https://huggingface.co/unsloth/gpt-oss-120b-GGUF) | [リンク](https://huggingface.co/unsloth/gpt-oss-120b-unsloth-bnb-4bit) |
| | 20B | [リンク](https://huggingface.co/unsloth/gpt-oss-20b-GGUF) | [リンク](https://huggingface.co/unsloth/gpt-oss-20b-unsloth-bnb-4bit) |
| **MiniMax** | [M2.5](https://unsloth.ai/docs/jp/moderu/tutorials/minimax-m25) | [リンク](https://huggingface.co/unsloth/MiniMax-M2.5-GGUF) | — |
| NVIDIA [Nemotron 3](https://unsloth.ai/docs/jp/moderu/nemotron-3) | 30B | [リンク](https://huggingface.co/unsloth/Nemotron-3-Nano-30B-A3B-GGUF) | — |
| [**Qwen-Image**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen-image-2512) | 2512 | [リンク](https://huggingface.co/unsloth/Qwen-Image-2512-GGUF) | — |
| | Edit-2511 | [リンク](https://huggingface.co/unsloth/Qwen-Image-Edit-2511-GGUF) | — |
| [**Ministral 3**](https://unsloth.ai/docs/jp/moderu/tutorials/ministral-3) | 3B | [Instruct](https://huggingface.co/unsloth/Ministral-3-3B-Instruct-2512-GGUF) • [推論](https://huggingface.co/unsloth/Ministral-3-3B-Reasoning-2512-GGUF) | [Instruct](https://huggingface.co/unsloth/Ministral-3-14B-Instruct-2512-unsloth-bnb-4bit) • [推論](https://huggingface.co/unsloth/Ministral-3-3B-Reasoning-2512-GGUF) |
| | 8B | [Instruct](https://huggingface.co/unsloth/Ministral-3-8B-Instruct-2512-GGUF) • [推論](https://huggingface.co/unsloth/Ministral-3-8B-Reasoning-2512-GGUF) | [Instruct](https://huggingface.co/unsloth/Ministral-3-8B-Instruct-2512-unsloth-bnb-4bit) • [推論](https://huggingface.co/unsloth/Ministral-3-8B-Reasoning-2512-unsloth-bnb-4bit) |
| | 14B | [Instruct](https://huggingface.co/unsloth/Ministral-3-14B-Instruct-2512-GGUF) • [推論](https://huggingface.co/unsloth/Ministral-3-14B-Reasoning-2512-GGUF) | [Instruct](https://huggingface.co/unsloth/Ministral-3-3B-Instruct-2512-unsloth-bnb-4bit) • [推論](https://huggingface.co/unsloth/Ministral-3-14B-Reasoning-2512-unsloth-bnb-4bit) |
| [**Devstral 2**](https://unsloth.ai/docs/jp/moderu/tutorials/devstral-2) | 24B | [リンク](https://huggingface.co/unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF) | — |
| | 123B | [リンク](https://huggingface.co/unsloth/Devstral-2-123B-Instruct-2512-GGUF) | — |
| **Mistral Large 3** | 675B | [リンク](https://huggingface.co/unsloth/Mistral-Large-3-675B-Instruct-2512-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Large-3-675B-Instruct-2512-NVFP4) |
| [**Qwen3-Next**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen3-next) | 80B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-Next-80B-A3B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-Next-80B-A3B-Instruct-bnb-4bit/) |
| | 80B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-Next-80B-A3B-Thinking-GGUF) | — |
| [**Qwen3-VL**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune) | 2B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-unsloth-bnb-4bit) |
| | 2B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-unsloth-bnb-4bit) |
| | 4B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit) |
| | 4B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-unsloth-bnb-4bit) |
| | 8B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-unsloth-bnb-4bit) |
| | 8B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-unsloth-bnb-4bit) |
| | 30B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-30B-A3B-Instruct-GGUF) | — |
| | 30B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-30B-A3B-Thinking-GGUF) | — |
| | 32B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Instruct-unsloth-bnb-4bit) |
| | 32B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Thinking-unsloth-bnb-4bit) |
| | 235B-A22B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-235B-A22B-Instruct-GGUF) | — |
| | 235B-A22B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-235B-A22B-Thinking-GGUF) | — |
| [**Qwen3-2507**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen3-next) | 30B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Instruct-2507-GGUF) | — |
| | 30B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Thinking-2507-GGUF) | — |
| | 235B-A22B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-Instruct-2507-GGUF/) | — |
| [**Qwen3-Coder**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen3-coder-how-to-run-locally) | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF) | — |
| [**GLM**](https://unsloth.ai/docs/jp/moderu/tutorials/glm-4.6-how-to-run-locally) | 4.7 | [リンク](https://huggingface.co/unsloth/GLM-4.7-GGUF) | — |
| | 4.6V-Flash | [リンク](https://huggingface.co/unsloth/GLM-4.6V-Flash-GGUF) | — |
| [**DeepSeek-V3.1**](https://unsloth.ai/docs/jp/moderu/tutorials/deepseek-v3.1-how-to-run-locally) | Terminus | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-Terminus-GGUF) | — |
| | V3.1 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-GGUF) | — |
| **Granite-4.0** | H-Small | [リンク](https://huggingface.co/unsloth/granite-4.0-h-small-GGUF) | [リンク](https://huggingface.co/unsloth/granite-4.0-h-small-unsloth-bnb-4bit) |
| **Kimi-K2** | 思考 | [リンク](https://huggingface.co/unsloth/Kimi-K2-Thinking-GGUF) | — |
| | 0905 | [リンク](https://huggingface.co/unsloth/Kimi-K2-Instruct-0905-GGUF) | — |
#### **DeepSeek モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ----------------- | ---------------------- | ------------------------------------------------------------------------ | ------------------------------------------------------------------------------------ |
| **DeepSeek-V3.1** | Terminus | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-Terminus-GGUF) | |
| | V3.1 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-GGUF) | |
| **DeepSeek-V3** | V3-0324 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3-0324-GGUF) | — |
| | V3 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3-GGUF) | — |
| **DeepSeek-R1** | R1-0528 | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-GGUF) | — |
| | R1-0528-Qwen3-8B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-Qwen3-8B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit) |
| | R1 | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-GGUF) | — |
| | R1 Zero | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Zero-GGUF) | — |
| | Distill Llama 3 8 B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-8B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-8B-unsloth-bnb-4bit) |
| | Distill Llama 3.3 70 B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-70B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-70B-bnb-4bit) |
| | Distill Qwen 2.5 1.5 B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-unsloth-bnb-4bit) |
| | Distill Qwen 2.5 7 B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-7B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit) |
| | Distill Qwen 2.5 14 B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-unsloth-bnb-4bit) |
| | Distill Qwen 2.5 32 B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-32B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-32B-bnb-4bit) |
#### **Llama モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ------------- | ------------------- | ----------------------------------------------------------------------------- | ------------------------------------------------------------------------------------- |
| **Llama 4** | Scout 17 B-16 E | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit) |
| | Maverick 17 B-128 E | [リンク](https://huggingface.co/unsloth/Llama-4-Maverick-17B-128E-Instruct-GGUF) | — |
| **Llama 3.3** | 70 B | [リンク](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct-bnb-4bit) |
| **Llama 3.2** | 1 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-1B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-3.2-1B-Instruct-bnb-4bit) |
| | 3 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-3B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-3.2-3B-Instruct-bnb-4bit) |
| | 11 B Vision | — | [リンク](https://huggingface.co/unsloth/Llama-3.2-11B-Vision-Instruct-unsloth-bnb-4bit) |
| | 90 B Vision | — | [リンク](https://huggingface.co/unsloth/Llama-3.2-90B-Vision-Instruct-bnb-4bit) |
| **Llama 3.1** | 8 B | [リンク](https://huggingface.co/unsloth/Llama-3.1-8B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit) |
| | 70 B | — | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-70B-Instruct-bnb-4bit) |
| | 405 B | — | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-405B-Instruct-bnb-4bit) |
| **Llama 3** | 8 B | — | [リンク](https://huggingface.co/unsloth/llama-3-8b-Instruct-bnb-4bit) |
| | 70 B | — | [リンク](https://huggingface.co/unsloth/llama-3-70b-bnb-4bit) |
| **Llama 2** | 7 B | — | [リンク](https://huggingface.co/unsloth/llama-2-7b-chat-bnb-4bit) |
| | 13 B | — | [リンク](https://huggingface.co/unsloth/llama-2-13b-bnb-4bit) |
| **CodeLlama** | 7 B | — | [リンク](https://huggingface.co/unsloth/codellama-7b-bnb-4bit) |
| | 13 B | — | [リンク](https://huggingface.co/unsloth/codellama-13b-bnb-4bit) |
| | 34 B | — | [リンク](https://huggingface.co/unsloth/codellama-34b-bnb-4bit) |
#### **Gemma モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ----------------- | ------------ | ---------------------------------------------------------------- | --------------------------------------------------------------------------- |
| **Gemma 4** | E2B | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-unsloth-bnb-4bit) |
| | E4B | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-unsloth-bnb-4bit) |
| | 26B-A4B | [リンク](https://huggingface.co/unsloth/gemma-4-26B-A4B-it-GGUF) | — |
| | 31B | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-unsloth-bnb-4bit) |
| **FunctionGemma** | 270M | [リンク](https://huggingface.co/unsloth/functiongemma-270m-it-GGUF) | — |
| **Gemma 3n** | E2B | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B-it-unsloth-bnb-4bit) |
| | E4B | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B-it-unsloth-bnb-4bit) |
| **Gemma 3** | 270M | [リンク](https://huggingface.co/unsloth/gemma-3-270m-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-270m-it) |
| | 1 B | [リンク](https://huggingface.co/unsloth/gemma-3-1b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-1b-it-unsloth-bnb-4bit) |
| | 4 B | [リンク](https://huggingface.co/unsloth/gemma-3-4b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-4b-it-unsloth-bnb-4bit) |
| | 12 B | [リンク](https://huggingface.co/unsloth/gemma-3-12b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-12b-it-unsloth-bnb-4bit) |
| | 27 B | [リンク](https://huggingface.co/unsloth/gemma-3-27b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-27b-it-unsloth-bnb-4bit) |
| **MedGemma** | 4 B（vision） | [リンク](https://huggingface.co/unsloth/medgemma-4b-it-GGUF) | [リンク](https://huggingface.co/unsloth/medgemma-4b-it-unsloth-bnb-4bit) |
| | 27 B（vision） | [リンク](https://huggingface.co/unsloth/medgemma-27b-it-GGUF) | [リンク](https://huggingface.co/unsloth/medgemma-27b-text-it-unsloth-bnb-4bit) |
| **Gemma 2** | 2 B | [リンク](https://huggingface.co/unsloth/gemma-2-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-2-2b-it-bnb-4bit) |
| | 9 B | — | [リンク](https://huggingface.co/unsloth/gemma-2-9b-it-bnb-4bit) |
| | 27 B | — | [リンク](https://huggingface.co/unsloth/gemma-2-27b-it-bnb-4bit) |
#### **Qwen モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ---------------------------------------------------------------------------------------------------------------------------- | ---------------------------------------------------------------- | --------------------------------------------------------------------------- | ------------------------------------------------------------------------------ |
| [**Qwen3.5**](https://github.com/unslothai/docs/blob/main/models/qwen3.5) | 35B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF) | — |
| | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.5-27B-GGUF) | — |
| | 122B-A10B | [リンク](https://huggingface.co/unsloth/Qwen3.5-122B-A10B-GGUF) | — |
| | 0.8B | [リンク](https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF) | — |
| | 2B | [リンク](https://huggingface.co/unsloth/Qwen3.5-2B-GGUF) | — |
| | 4B | [リンク](https://huggingface.co/unsloth/Qwen3.5-4B-GGUF) | — |
| | 9B | [リンク](https://huggingface.co/unsloth/Qwen3.5-9B-GGUF) | — |
| | 397B-A17B | [リンク](https://huggingface.co/unsloth/Qwen3.5-397B-A17B-GGUF) | — |
| **Qwen3** | [Coder-Next](https://unsloth.ai/docs/jp/moderu/qwen3-coder-next) | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-Next-GGUF) | — |
| [**Qwen-Image**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen-image-2512) | 2512 | [リンク](https://huggingface.co/unsloth/Qwen-Image-2512-GGUF) | — |
| | Edit-2511 | [リンク](https://huggingface.co/unsloth/Qwen-Image-Edit-2511-GGUF) | — |
| [**Qwen3-VL**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune) | 2B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-unsloth-bnb-4bit) |
| | 2B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-unsloth-bnb-4bit) |
| | 4B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit) |
| | 4B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-unsloth-bnb-4bit) |
| | 8B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-unsloth-bnb-4bit) |
| | 8B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-unsloth-bnb-4bit) |
| **Qwen3-Coder** | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF) | — |
| | 480B-A35B | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF) | — |
| [**Qwen3-2507**](https://unsloth.ai/docs/jp/moderu/tutorials/qwen3-next) | 30B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Instruct-2507-GGUF) | — |
| | 30B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Thinking-2507-GGUF) | — |
| | 235B-A22B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-Thinking-2507-GGUF/) | — |
| | 235B-A22B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-Instruct-2507-GGUF/) | — |
| **Qwen 3** | 0.6 B | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-unsloth-bnb-4bit) |
| | 1.7 B | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-unsloth-bnb-4bit) |
| | 4 B | [リンク](https://huggingface.co/unsloth/Qwen3-4B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-4B-unsloth-bnb-4bit) |
| | 8 B | [リンク](https://huggingface.co/unsloth/Qwen3-8B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-8B-unsloth-bnb-4bit) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen3-14B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-14B-unsloth-bnb-4bit) |
| | 30 B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-bnb-4bit) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen3-32B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-32B-unsloth-bnb-4bit) |
| | 235 B-A22B | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-GGUF) | — |
| **Qwen 2.5 Omni** | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-3B-GGUF) | — |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-7B-GGUF) | — |
| **Qwen 2.5 VL** | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-3B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-3B-Instruct-unsloth-bnb-4bit) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-7B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-7B-Instruct-unsloth-bnb-4bit) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-32B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-32B-Instruct-unsloth-bnb-4bit) |
| | 72 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-72B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-72B-Instruct-unsloth-bnb-4bit) |
| **Qwen 2.5** | 0.5 B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-0.5B-Instruct-bnb-4bit) |
| | 1.5 B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-1.5B-Instruct-bnb-4bit) |
| | 3 B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-3B-Instruct-bnb-4bit) |
| | 7 B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-7B-Instruct-bnb-4bit) |
| | 14 B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-14B-Instruct-bnb-4bit) |
| | 32 B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-32B-Instruct-bnb-4bit) |
| | 72 B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-72B-Instruct-bnb-4bit) |
| **Qwen 2.5 Coder (128 K)** | 0.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-0.5B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-0.5B-Instruct-bnb-4bit) |
| | 1.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-1.5B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-1.5B-Instruct-bnb-4bit) |
| | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-3B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-7B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-14B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-14B-Instruct-bnb-4bit) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-32B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-32B-Instruct-bnb-4bit) |
| **QwQ** | 32 B | [リンク](https://huggingface.co/unsloth/QwQ-32B-GGUF) | [リンク](https://huggingface.co/unsloth/QwQ-32B-unsloth-bnb-4bit) |
| **QVQ（プレビュー）** | 72 B | — | [リンク](https://huggingface.co/unsloth/QVQ-72B-Preview-bnb-4bit) |
| **Qwen 2（チャット）** | 1.5 B | — | [リンク](https://huggingface.co/unsloth/Qwen2-1.5B-Instruct-bnb-4bit) |
| | 7 B | — | [リンク](https://huggingface.co/unsloth/Qwen2-7B-Instruct-bnb-4bit) |
| | 72 B | — | [リンク](https://huggingface.co/unsloth/Qwen2-72B-Instruct-bnb-4bit) |
| **Qwen 2 VL** | 2 B | — | [リンク](https://huggingface.co/unsloth/Qwen2-VL-2B-Instruct-unsloth-bnb-4bit) |
| | 7 B | — | [リンク](https://huggingface.co/unsloth/Qwen2-VL-7B-Instruct-unsloth-bnb-4bit) |
| | 72 B | — | [リンク](https://huggingface.co/unsloth/Qwen2-VL-72B-Instruct-bnb-4bit) |
#### **GLM モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ------- | ------------------------------------------------------------ | --------------------------------------------------------- | -------------- |
| **GLM** | [4.7-Flash](https://unsloth.ai/docs/jp/moderu/glm-4.7-flash) | [リンク](https://huggingface.co/unsloth/GLM-4.7-Flash-GGUF) | — |
| | [5](https://unsloth.ai/docs/jp/moderu/tutorials/glm-5) | [リンク](https://huggingface.co/unsloth/GLM-5-GGUF) | — |
| | 4.6V-Flash | [リンク](https://huggingface.co/unsloth/GLM-4.6V-Flash-GGUF) | — |
| | 4.6 | [リンク](https://huggingface.co/unsloth/GLM-4.6-GGUF) | — |
| | 4.5-Air | [リンク](https://huggingface.co/unsloth/GLM-4.5-Air-GGUF) | — |
#### **Mistral モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ----------------- | ---------------- | ------------------------------------------------------------------------------ | ------------------------------------------------------------------------------------------ |
| **Magistral** | Small（2506） | [リンク](https://huggingface.co/unsloth/Magistral-Small-2506-GGUF) | [リンク](https://huggingface.co/unsloth/Magistral-Small-2506-unsloth-bnb-4bit) |
| | Small（2509） | [リンク](https://huggingface.co/unsloth/Magistral-Small-2509-GGUF) | [リンク](https://huggingface.co/unsloth/Magistral-Small-2509-unsloth-bnb-4bit) |
| | Small（2507） | [リンク](https://huggingface.co/unsloth/Magistral-Small-2507-GGUF) | [リンク](https://huggingface.co/unsloth/Magistral-Small-2507-unsloth-bnb-4bit) |
| **Mistral Small** | 3.2-24 B（2506） | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.2-24B-Instruct-2506-unsloth-bnb-4bit) |
| | 3.1-24 B（2503） | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.1-24B-Instruct-2503-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.1-24B-Instruct-2503-unsloth-bnb-4bit) |
| | 3-24 B（2501） | [リンク](https://huggingface.co/unsloth/Mistral-Small-24B-Instruct-2501-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Small-24B-Instruct-2501-unsloth-bnb-4bit) |
| | 2409-22 B | — | [リンク](https://huggingface.co/unsloth/Mistral-Small-Instruct-2409-bnb-4bit) |
| **Devstral** | Small-24 B（2507） | [リンク](https://huggingface.co/unsloth/Devstral-Small-2507-GGUF) | [リンク](https://huggingface.co/unsloth/Devstral-Small-2507-unsloth-bnb-4bit) |
| | Small-24 B（2505） | [リンク](https://huggingface.co/unsloth/Devstral-Small-2505-GGUF) | [リンク](https://huggingface.co/unsloth/Devstral-Small-2505-unsloth-bnb-4bit) |
| **Pixtral** | 12 B（2409） | — | [リンク](https://huggingface.co/unsloth/Pixtral-12B-2409-bnb-4bit) |
| **Mistral NeMo** | 12 B（2407） | [リンク](https://huggingface.co/unsloth/Mistral-Nemo-Instruct-2407-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit) |
| **Mistral Large** | 2407 | — | [リンク](https://huggingface.co/unsloth/Mistral-Large-Instruct-2407-bnb-4bit) |
| **Mistral 7 B** | v0.3 | — | [リンク](https://huggingface.co/unsloth/mistral-7b-instruct-v0.3-bnb-4bit) |
| | v0.2 | — | [リンク](https://huggingface.co/unsloth/mistral-7b-instruct-v0.2-bnb-4bit) |
| **Mixtral** | 8 × 7 B | — | [リンク](https://huggingface.co/unsloth/Mixtral-8x7B-Instruct-v0.1-unsloth-bnb-4bit) |
#### **Phi モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| ----------- | --------------- | --------------------------------------------------------------- | --------------------------------------------------------------------------- |
| **Phi-4** | Reasoning-plus | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-plus-GGUF) | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-plus-unsloth-bnb-4bit) |
| | 推論 | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-GGUF) | [リンク](https://huggingface.co/unsloth/phi-4-reasoning-unsloth-bnb-4bit) |
| | Mini-Reasoning | [リンク](https://huggingface.co/unsloth/Phi-4-mini-reasoning-GGUF) | [リンク](https://huggingface.co/unsloth/Phi-4-mini-reasoning-unsloth-bnb-4bit) |
| | Phi-4（instruct） | [リンク](https://huggingface.co/unsloth/phi-4-GGUF) | [リンク](https://huggingface.co/unsloth/phi-4-unsloth-bnb-4bit) |
| | mini（instruct） | [リンク](https://huggingface.co/unsloth/Phi-4-mini-instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Phi-4-mini-instruct-unsloth-bnb-4bit) |
| **Phi-3.5** | mini | — | [リンク](https://huggingface.co/unsloth/Phi-3.5-mini-instruct-bnb-4bit) |
| **Phi-3** | mini | — | [リンク](https://huggingface.co/unsloth/Phi-3-mini-4k-instruct-bnb-4bit) |
| | medium | — | [リンク](https://huggingface.co/unsloth/Phi-3-medium-4k-instruct-bnb-4bit) |
#### **その他（GLM、Orpheus、Smol、Llava など）モデル：**
| モデル | バリアント | GGUF | Instruct（4ビット） |
| --------------- | -------------------- | ----------------------------------------------------------------------------- | ------------------------------------------------------------------------ |
| GLM | 4.5-Air | [リンク](https://huggingface.co/unsloth/GLM-4.5-Air-GGUF) | — |
| | 4.5 | [4.5](https://huggingface.co/unsloth/GLM-4.5-GGUF) | — |
| | 4-32B-0414 | [4-32B-0414](https://huggingface.co/unsloth/GLM-4-32B-0414-GGUF) | — |
| **Grok 2** | 270B | [リンク](https://huggingface.co/unsloth/grok-2-GGUF) | — |
| **Baidu-ERNIE** | 4.5-21B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/ERNIE-4.5-21B-A3B-Thinking-GGUF) | — |
| Hunyuan | A13B | [リンク](https://huggingface.co/unsloth/Hunyuan-A13B-Instruct-GGUF) | — |
| Orpheus | 0.1-ft（3B） | [リンク](https://app.gitbook.com/o/HpyELzcNe0topgVLGCZY/s/xhOjnexMCB3dmuQFQ2Zq/) | [リンク](https://huggingface.co/unsloth/orpheus-3b-0.1-ft-unsloth-bnb-4bit) |
| **LLava** | 1.5（7 B） | — | [リンク](https://huggingface.co/unsloth/llava-1.5-7b-hf-bnb-4bit) |
| | 1.6 Mistral（7 B） | — | [リンク](https://huggingface.co/unsloth/llava-v1.6-mistral-7b-hf-bnb-4bit) |
| **TinyLlama** | チャット | — | [リンク](https://huggingface.co/unsloth/tinyllama-chat-bnb-4bit) |
| **SmolLM 2** | 135 M | [リンク](https://huggingface.co/unsloth/SmolLM2-135M-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/SmolLM2-135M-Instruct-bnb-4bit) |
| | 360 M | [リンク](https://huggingface.co/unsloth/SmolLM2-360M-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/SmolLM2-360M-Instruct-bnb-4bit) |
| | 1.7 B | [リンク](https://huggingface.co/unsloth/SmolLM2-1.7B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/SmolLM2-1.7B-Instruct-bnb-4bit) |
| **Zephyr-SFT** | 7 B | — | [リンク](https://huggingface.co/unsloth/zephyr-sft-bnb-4bit) |
| **Yi** | 6 B（v1.5） | — | [リンク](https://huggingface.co/unsloth/Yi-1.5-6B-bnb-4bit) |
| | 6 B（v1.0） | — | [リンク](https://huggingface.co/unsloth/yi-6b-bnb-4bit) |
| | 34 B（chat） | — | [リンク](https://huggingface.co/unsloth/yi-34b-chat-bnb-4bit) |
| | 34 B（base） | — | [リンク](https://huggingface.co/unsloth/yi-34b-bnb-4bit) |
| {% endtab %} | | | |
{% tab title="• Instruct 16ビット" %}
16ビットおよび8ビットの Instruct モデルは、での推論またはファインチューニングに使用されます [**Unsloth Studio**](https://unsloth.ai/docs/jp/xin-zhe/studio):
**新しいモデル：**
| モデル | バリアント | Instruct（16ビット） |
| -------------------- | --------------------- | ------------------------------------------------------------------------- |
| **gpt-oss** （新規） | 20b | [リンク](https://huggingface.co/unsloth/gpt-oss-20b) |
| | 120b | [リンク](https://huggingface.co/unsloth/gpt-oss-120b) |
| **Gemma 3n** | E2B | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B-it) |
| | E4B | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B-it) |
| **DeepSeek-R1-0528** | R1-0528-Qwen3-8B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-Qwen3-8B) |
| | R1-0528 | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528) |
| **Mistral** | Small 3.2 24B（2506） | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.2-24B-Instruct-2506) |
| | Small 3.1 24B（2503） | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.1-24B-Instruct-2503) |
| | Small 3.0 24B（2501） | [リンク](https://huggingface.co/unsloth/Mistral-Small-24B-Instruct-2501) |
| | Magistral Small（2506） | [リンク](https://huggingface.co/unsloth/Magistral-Small-2506) |
| **Qwen 3** | 0.6 B | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B) |
| | 1.7 B | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B) |
| | 4 B | [リンク](https://huggingface.co/unsloth/Qwen3-4B) |
| | 8 B | [リンク](https://huggingface.co/unsloth/Qwen3-8B) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen3-14B) |
| | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen3-32B) |
| | 235B-A22B | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B) |
| **Llama 4** | Scout 17B-16E | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E-Instruct) |
| | Maverick 17B-128E | [リンク](https://huggingface.co/unsloth/Llama-4-Maverick-17B-128E-Instruct) |
| **Qwen 2.5 Omni** | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-3B) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-7B) |
| **Phi-4** | Reasoning-plus | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-plus) |
| | 推論 | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning) |
**DeepSeek モデル**
| モデル | バリアント | Instruct（16ビット） |
| --------------- | --------------------- | ------------------------------------------------------------------- |
| **DeepSeek-V3** | V3-0324 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3-0324) |
| | V3 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3) |
| **DeepSeek-R1** | R1-0528 | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528) |
| | R1-0528-Qwen3-8B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-Qwen3-8B) |
| | R1 | [リンク](https://huggingface.co/unsloth/DeepSeek-R1) |
| | R1 Zero | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Zero) |
| | Distill Llama 3 8B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-8B) |
| | Distill Llama 3.3 70B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-70B) |
| | Distill Qwen 2.5 1.5B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-1.5B) |
| | Distill Qwen 2.5 7B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-7B) |
| | Distill Qwen 2.5 14B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-14B) |
| | Distill Qwen 2.5 32B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-32B) |
**Llama モデル**
| ファミリー | バリアント | Instruct（16ビット） |
| ------------- | ----------------- | ------------------------------------------------------------------------ |
| **Llama 4** | Scout 17B-16E | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E-Instruct) |
| | Maverick 17B-128E | [リンク](https://huggingface.co/unsloth/Llama-4-Maverick-17B-128E-Instruct) |
| **Llama 3.3** | 70 B | [リンク](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct) |
| **Llama 3.2** | 1 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-1B-Instruct) |
| | 3 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-3B-Instruct) |
| | 11 B Vision | [リンク](https://huggingface.co/unsloth/Llama-3.2-11B-Vision-Instruct) |
| | 90 B Vision | [リンク](https://huggingface.co/unsloth/Llama-3.2-90B-Vision-Instruct) |
| **Llama 3.1** | 8 B | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-8B-Instruct) |
| | 70 B | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-70B-Instruct) |
| | 405 B | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-405B-Instruct) |
| **Llama 3** | 8 B | [リンク](https://huggingface.co/unsloth/llama-3-8b-Instruct) |
| | 70 B | [リンク](https://huggingface.co/unsloth/llama-3-70b-Instruct) |
| **Llama 2** | 7 B | [リンク](https://huggingface.co/unsloth/llama-2-7b-chat) |
**Gemma モデル：**
| モデル | バリアント | Instruct（16ビット） |
| ------------ | ----- | ----------------------------------------------------- |
| **Gemma 3n** | E2B | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B-it) |
| | E4B | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B-it) |
| **Gemma 3** | 1 B | [リンク](https://huggingface.co/unsloth/gemma-3-1b-it) |
| | 4 B | [リンク](https://huggingface.co/unsloth/gemma-3-4b-it) |
| | 12 B | [リンク](https://huggingface.co/unsloth/gemma-3-12b-it) |
| | 27 B | [リンク](https://huggingface.co/unsloth/gemma-3-27b-it) |
| **Gemma 2** | 2 B | [リンク](https://huggingface.co/unsloth/gemma-2b-it) |
| | 9 B | [リンク](https://huggingface.co/unsloth/gemma-9b-it) |
| | 27 B | [リンク](https://huggingface.co/unsloth/gemma-27b-it) |
**Qwen モデル：**
| ファミリー | バリアント | Instruct（16ビット） |
| ------------------------ | --------- | ---------------------------------------------------------------------- |
| **Qwen 3** | 0.6 B | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B) |
| | 1.7 B | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B) |
| | 4 B | [リンク](https://huggingface.co/unsloth/Qwen3-4B) |
| | 8 B | [リンク](https://huggingface.co/unsloth/Qwen3-8B) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen3-14B) |
| | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen3-32B) |
| | 235B-A22B | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B) |
| **Qwen 2.5 Omni** | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-3B) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-7B) |
| **Qwen 2.5 VL** | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-3B-Instruct) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-7B-Instruct) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-32B-Instruct) |
| | 72 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-72B-Instruct) |
| **Qwen 2.5** | 0.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-0.5B-Instruct) |
| | 1.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-1.5B-Instruct) |
| | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-3B-Instruct) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-7B-Instruct) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-14B-Instruct) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-32B-Instruct) |
| | 72 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-72B-Instruct) |
| **Qwen 2.5 Coder 128 K** | 0.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-0.5B-Instruct-128K) |
| | 1.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-1.5B-Instruct-128K) |
| | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-3B-Instruct-128K) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-7B-Instruct-128K) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-14B-Instruct-128K) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-32B-Instruct-128K) |
| **QwQ** | 32 B | [リンク](https://huggingface.co/unsloth/QwQ-32B) |
| **QVQ（プレビュー）** | 72 B | — |
| **Qwen 2（チャット）** | 1.5 B | [リンク](https://huggingface.co/unsloth/Qwen2-1.5B-Instruct) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2-7B-Instruct) |
| | 72 B | [リンク](https://huggingface.co/unsloth/Qwen2-72B-Instruct) |
| **Qwen 2 VL** | 2 B | [リンク](https://huggingface.co/unsloth/Qwen2-VL-2B-Instruct) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2-VL-7B-Instruct) |
| | 72 B | [リンク](https://huggingface.co/unsloth/Qwen2-VL-72B-Instruct) |
**Mistral モデル：**
| モデル | バリアント | Instruct（16ビット） |
| ---------------- | -------------- | ----------------------------------------------------------------- |
| **Mistral** | Small 2409-22B | [リンク](https://huggingface.co/unsloth/Mistral-Small-Instruct-2409) |
| **Mistral** | Large 2407 | [リンク](https://huggingface.co/unsloth/Mistral-Large-Instruct-2407) |
| **Mistral** | 7B v0.3 | [リンク](https://huggingface.co/unsloth/mistral-7b-instruct-v0.3) |
| **Mistral** | 7B v0.2 | [リンク](https://huggingface.co/unsloth/mistral-7b-instruct-v0.2) |
| **Pixtral** | 12B 2409 | [リンク](https://huggingface.co/unsloth/Pixtral-12B-2409) |
| **Mixtral** | 8×7B | [リンク](https://huggingface.co/unsloth/Mixtral-8x7B-Instruct-v0.1) |
| **Mistral NeMo** | 12B 2407 | [リンク](https://huggingface.co/unsloth/Mistral-Nemo-Instruct-2407) |
| **Devstral** | Small 2505 | [リンク](https://huggingface.co/unsloth/Devstral-Small-2505) |
**Phi モデル：**
| モデル | バリアント | Instruct（16ビット） |
| ----------- | -------------- | -------------------------------------------------------------- |
| **Phi-4** | Reasoning-plus | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-plus) |
| | 推論 | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning) |
| | Phi-4（core） | [リンク](https://huggingface.co/unsloth/Phi-4) |
| | Mini-Reasoning | [リンク](https://huggingface.co/unsloth/Phi-4-mini-reasoning) |
| | Mini | [リンク](https://huggingface.co/unsloth/Phi-4-mini) |
| **Phi-3.5** | Mini | [リンク](https://huggingface.co/unsloth/Phi-3.5-mini-instruct) |
| **Phi-3** | Mini | [リンク](https://huggingface.co/unsloth/Phi-3-mini-4k-instruct) |
| | Medium | [リンク](https://huggingface.co/unsloth/Phi-3-medium-4k-instruct) |
**テキスト読み上げ（TTS）モデル：**
| モデル | Instruct（16ビット） |
| --------------------- | --------------------------------------------------------------- |
| Orpheus-3B（v0.1 ft） | [リンク](https://huggingface.co/unsloth/orpheus-3b-0.1-ft) |
| Orpheus-3B（v0.1 pt） | [リンク](https://huggingface.co/unsloth/orpheus-3b-0.1-pretrained) |
| Sesame-CSM 1B | [リンク](https://huggingface.co/unsloth/csm-1b) |
| Whisper Large V3（STT） | [リンク](https://huggingface.co/unsloth/whisper-large-v3) |
| Llasa-TTS 1B | [リンク](https://huggingface.co/unsloth/Llasa-1B) |
| Spark-TTS 0.5B | [リンク](https://huggingface.co/unsloth/Spark-TTS-0.5B) |
| Oute-TTS 1B | [リンク](https://huggingface.co/unsloth/Llama-OuteTTS-1.0-1B) |
| {% endtab %} | |
{% tab title="• Base 4 & 16ビット" %}
Base モデルは通常、ファインチューニング用途に使用されます：
**新しいモデル：**
| モデル | バリアント | Base（16ビット） | Base（4ビット） |
| ------------ | ----------------- | --------------------------------------------------------------- | ------------------------------------------------------------------------------------- |
| **Gemma 3n** | E2B | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B) | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B-unsloth-bnb-4bit) |
| | E4B | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B) | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B-unsloth-bnb-4bit) |
| **Qwen 3** | 0.6 B | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-Base-unsloth-bnb-4bit) |
| | 1.7 B | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-Base-unsloth-bnb-4bit) |
| | 4 B | [リンク](https://huggingface.co/unsloth/Qwen3-4B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-4B-Base-unsloth-bnb-4bit) |
| | 8 B | [リンク](https://huggingface.co/unsloth/Qwen3-8B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-8B-Base-unsloth-bnb-4bit) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen3-14B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-14B-Base-unsloth-bnb-4bit) |
| | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Base-bnb-4bit) |
| **Llama 4** | Scout 17B 16E | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E) | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit) |
| | Maverick 17B 128E | [リンク](https://huggingface.co/unsloth/Llama-4-Maverick-17B-128E) | — |
**Llama モデル：**
| モデル | バリアント | Base（16ビット） | Base（4ビット） |
| ------------- | ----------------- | --------------------------------------------------------------- | ---------------------------------------------------------- |
| **Llama 4** | Scout 17B 16E | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E) | — |
| | Maverick 17B 128E | [リンク](https://huggingface.co/unsloth/Llama-4-Maverick-17B-128E) | — |
| **Llama 3.3** | 70 B | [リンク](https://huggingface.co/unsloth/Llama-3.3-70B) | — |
| **Llama 3.2** | 1 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-1B) | — |
| | 3 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-3B) | — |
| | 11 B Vision | [リンク](https://huggingface.co/unsloth/Llama-3.2-11B-Vision) | — |
| | 90 B Vision | [リンク](https://huggingface.co/unsloth/Llama-3.2-90B-Vision) | — |
| **Llama 3.1** | 8 B | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-8B) | — |
| | 70 B | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-70B) | — |
| **Llama 3** | 8 B | [リンク](https://huggingface.co/unsloth/llama-3-8b) | [リンク](https://huggingface.co/unsloth/llama-3-8b-bnb-4bit) |
| **Llama 2** | 7 B | [リンク](https://huggingface.co/unsloth/llama-2-7b) | [リンク](https://huggingface.co/unsloth/llama-2-7b-bnb-4bit) |
| | 13 B | [リンク](https://huggingface.co/unsloth/llama-2-13b) | [リンク](https://huggingface.co/unsloth/llama-2-13b-bnb-4bit) |
**Qwen モデル：**
| モデル | バリアント | Base（16ビット） | Base（4ビット） |
| ------------ | ------- | -------------------------------------------------------- | ------------------------------------------------------------------------- |
| **Qwen 3** | 0.6 B | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-Base-unsloth-bnb-4bit) |
| | 1.7 B | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-Base-unsloth-bnb-4bit) |
| | 4 B | [リンク](https://huggingface.co/unsloth/Qwen3-4B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-4B-Base-unsloth-bnb-4bit) |
| | 8 B | [リンク](https://huggingface.co/unsloth/Qwen3-8B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-8B-Base-unsloth-bnb-4bit) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen3-14B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-14B-Base-unsloth-bnb-4bit) |
| | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Base) | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Base-unsloth-bnb-4bit) |
| **Qwen 2.5** | 0.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-0.5B) | [リンク](https://huggingface.co/unsloth/Qwen2.5-0.5B-bnb-4bit) |
| | 1.5 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-1.5B) | [リンク](https://huggingface.co/unsloth/Qwen2.5-1.5B-bnb-4bit) |
| | 3 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-3B) | [リンク](https://huggingface.co/unsloth/Qwen2.5-3B-bnb-4bit) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-7B) | [リンク](https://huggingface.co/unsloth/Qwen2.5-7B-bnb-4bit) |
| | 14 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-14B) | [リンク](https://huggingface.co/unsloth/Qwen2.5-14B-bnb-4bit) |
| | 32 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-32B) | [リンク](https://huggingface.co/unsloth/Qwen2.5-32B-bnb-4bit) |
| | 72 B | [リンク](https://huggingface.co/unsloth/Qwen2.5-72B) | [リンク](https://huggingface.co/unsloth/Qwen2.5-72B-bnb-4bit) |
| **Qwen 2** | 1.5 B | [リンク](https://huggingface.co/unsloth/Qwen2-1.5B) | [リンク](https://huggingface.co/unsloth/Qwen2-1.5B-bnb-4bit) |
| | 7 B | [リンク](https://huggingface.co/unsloth/Qwen2-7B) | [リンク](https://huggingface.co/unsloth/Qwen2-7B-bnb-4bit) |
**Llama モデル：**
| モデル | バリアント | Base（16ビット） | Base（4ビット） |
| ------------- | ----------------- | --------------------------------------------------------------- | ---------------------------------------------------------- |
| **Llama 4** | Scout 17B 16E | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E) | — |
| | Maverick 17B 128E | [リンク](https://huggingface.co/unsloth/Llama-4-Maverick-17B-128E) | — |
| **Llama 3.3** | 70 B | [リンク](https://huggingface.co/unsloth/Llama-3.3-70B) | — |
| **Llama 3.2** | 1 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-1B) | — |
| | 3 B | [リンク](https://huggingface.co/unsloth/Llama-3.2-3B) | — |
| | 11 B Vision | [リンク](https://huggingface.co/unsloth/Llama-3.2-11B-Vision) | — |
| | 90 B Vision | [リンク](https://huggingface.co/unsloth/Llama-3.2-90B-Vision) | — |
| **Llama 3.1** | 8 B | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-8B) | — |
| | 70 B | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-70B) | — |
| **Llama 3** | 8 B | [リンク](https://huggingface.co/unsloth/llama-3-8b) | [リンク](https://huggingface.co/unsloth/llama-3-8b-bnb-4bit) |
| **Llama 2** | 7 B | [リンク](https://huggingface.co/unsloth/llama-2-7b) | [リンク](https://huggingface.co/unsloth/llama-2-7b-bnb-4bit) |
| | 13 B | [リンク](https://huggingface.co/unsloth/llama-2-13b) | [リンク](https://huggingface.co/unsloth/llama-2-13b-bnb-4bit) |
**Gemma モデル**
| モデル | バリアント | Base（16ビット） | Base（4ビット） |
| ----------- | ----- | ---------------------------------------------------- | --------------------------------------------------------------------- |
| **Gemma 3** | 1 B | [リンク](https://huggingface.co/unsloth/gemma-3-1b-pt) | [リンク](https://huggingface.co/unsloth/gemma-3-1b-pt-unsloth-bnb-4bit) |
| | 4 B | [リンク](https://huggingface.co/unsloth/gemma-3-4b-pt) | [リンク](https://huggingface.co/unsloth/gemma-3-4b-pt-unsloth-bnb-4bit) |
| | 12 B | [リンク](https://huggingface.co/unsloth/gemma-3-12b-pt) | [リンク](https://huggingface.co/unsloth/gemma-3-12b-pt-unsloth-bnb-4bit) |
| | 27 B | [リンク](https://huggingface.co/unsloth/gemma-3-27b-pt) | [リンク](https://huggingface.co/unsloth/gemma-3-27b-pt-unsloth-bnb-4bit) |
| **Gemma 2** | 2 B | [リンク](https://huggingface.co/unsloth/gemma-2-2b) | — |
| | 9 B | [リンク](https://huggingface.co/unsloth/gemma-2-9b) | — |
| | 27 B | [リンク](https://huggingface.co/unsloth/gemma-2-27b) | — |
**Mistral モデル：**
| モデル | バリアント | Base（16ビット） | Base（4ビット） |
| ----------- | ---------------- | ----------------------------------------------------------------- | -------------------------------------------------------------- |
| **Mistral** | Small 24B 2501 | [リンク](https://huggingface.co/unsloth/Mistral-Small-24B-Base-2501) | — |
| | NeMo 12B 2407 | [リンク](https://huggingface.co/unsloth/Mistral-Nemo-Base-2407) | — |
| | 7B v0.3 | [リンク](https://huggingface.co/unsloth/mistral-7b-v0.3) | [リンク](https://huggingface.co/unsloth/mistral-7b-v0.3-bnb-4bit) |
| | 7B v0.2 | [リンク](https://huggingface.co/unsloth/mistral-7b-v0.2) | [リンク](https://huggingface.co/unsloth/mistral-7b-v0.2-bnb-4bit) |
| | Pixtral 12B 2409 | [リンク](https://huggingface.co/unsloth/Pixtral-12B-Base-2409) | — |
**その他（TTS、TinyLlama）モデル：**
| モデル | バリアント | Base（16ビット） | Base（4ビット） |
| -------------- | -------------- | --------------------------------------------------------------- | -------------------------------------------------------------------------------- |
| **TinyLlama** | 1.1 B（Base） | [リンク](https://huggingface.co/unsloth/tinyllama) | [リンク](https://huggingface.co/unsloth/tinyllama-bnb-4bit) |
| **Orpheus-3b** | 0.1-pretrained | [リンク](https://huggingface.co/unsloth/orpheus-3b-0.1-pretrained) | [リンク](https://huggingface.co/unsloth/orpheus-3b-0.1-pretrained-unsloth-bnb-4bit) |
| {% endtab %} | | | |
{% tab title="• FP8" %}
FP8 アップロードは、学習または提供/デプロイに使用できます。
FP8 Dynamic は、FP8 Block よりも若干高速な学習と低い VRAM 使用量を提供しますが、精度がわずかにトレードオフになります。
| モデル | バリアント | FP8（Dynamic / Block） |
| --------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| Qwen3 | Coder-Next | [動的](https://huggingface.co/unsloth/Qwen3-Coder-Next-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Qwen3-Coder-Next-FP8) |
| GLM | 4.7-Flash | [動的](https://huggingface.co/unsloth/GLM-4.7-Flash-FP8-Dynamic) |
| **Llama 3.3** | 70B Instruct | [動的](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct-FP8-Block) |
| **Llama 3.2** | 1B Base | [動的](https://huggingface.co/unsloth/Llama-3.2-1B-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.2-1B-FP8-Block) |
| | 1B Instruct | [動的](https://huggingface.co/unsloth/Llama-3.2-1B-Instruct-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.2-1B-Instruct-FP8-Block) |
| | 3B Base | [動的](https://huggingface.co/unsloth/Llama-3.2-3B-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.2-3B-FP8-Block) |
| | 3B Instruct | [動的](https://huggingface.co/unsloth/Llama-3.2-3B-Instruct-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.2-3B-Instruct-FP8-Block) |
| **Llama 3.1** | 8B Base | [動的](https://huggingface.co/unsloth/Llama-3.1-8B-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.1-8B-FP8-Block) |
| | 8B Instruct | [動的](https://huggingface.co/unsloth/Llama-3.1-8B-Instruct-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.1-8B-Instruct-FP8-Block) |
| | 70B Base | [動的](https://huggingface.co/unsloth/Llama-3.1-70B-FP8-Dynamic) · [Block](https://huggingface.co/unsloth/Llama-3.1-70B-FP8-Block) |
| **Qwen3** | 0.6B | [FP8](https://huggingface.co/unsloth/Qwen3-0.6B-FP8) |
| | 1.7B | [FP8](https://huggingface.co/unsloth/Qwen3-1.7B-FP8) |
| | 4B | [FP8](https://huggingface.co/unsloth/Qwen3-4B-FP8) |
| | 8B | [FP8](https://huggingface.co/unsloth/Qwen3-8B-FP8) |
| | 14B | [FP8](https://huggingface.co/unsloth/Qwen3-14B-FP8) |
| | 32B | [FP8](https://huggingface.co/unsloth/Qwen3-32B-FP8) |
| | 235B-A22B | [FP8](https://huggingface.co/unsloth/Qwen3-235B-A22B-FP8) |
| **Qwen3（2507）** | 4B Instruct | [FP8](https://huggingface.co/unsloth/Qwen3-4B-Instruct-2507-FP8) |
| | 4B Thinking | [FP8](https://huggingface.co/unsloth/Qwen3-4B-Thinking-2507-FP8) |
| | 30B-A3B Instruct | [FP8](https://huggingface.co/unsloth/Qwen3-30B-A3B-Instruct-2507-FP8) |
| | 30B-A3B Thinking | [FP8](https://huggingface.co/unsloth/Qwen3-30B-A3B-Thinking-2507-FP8) |
| | 235B-A22B Instruct | [FP8](https://huggingface.co/unsloth/Qwen3-235B-A22B-Instruct-2507-FP8) |
| | 235B-A22B Thinking | [FP8](https://huggingface.co/unsloth/Qwen3-235B-A22B-Thinking-2507-FP8) |
| **Qwen3-VL** | 4B Instruct | [FP8](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-FP8) |
| | 4B Thinking | [FP8](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-FP8) |
| | 8B Instruct | [FP8](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-FP8) |
| | 8B Thinking | [FP8](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-FP8) |
| **Qwen3-Coder** | 480B-A35B Instruct | [FP8](https://huggingface.co/unsloth/Qwen3-Coder-480B-A35B-Instruct-FP8) |
| **Granite 4.0** | h-tiny | [FP8 Dynamic](https://huggingface.co/unsloth/granite-4.0-h-tiny-FP8-Dynamic) |
| | h-small | [FP8 Dynamic](https://huggingface.co/unsloth/granite-4.0-h-small-FP8-Dynamic) |
| **Magistral Small** | 2509 | [FP8 Dynamic](https://huggingface.co/unsloth/Magistral-Small-2509-FP8-Dynamic) · [FP8 torchao](https://huggingface.co/unsloth/Magistral-Small-2509-FP8-torchao) |
| **Mistral Small 3.2** | 24B Instruct-2506 | [FP8](https://huggingface.co/unsloth/Mistral-Small-3.2-24B-Instruct-2506-FP8) |
| **Gemma 3** | 270M-it torchao
270m — FP8
1B — FP8
4B — FP8
12B — FP8
27B — FP8
| [FP8 torchao](https://huggingface.co/unsloth/gemma-3-270m-it-torchao-FP8) |
| {% endtab %} | | |
| {% endtabs %} | | |
---
# Agent Instructions: Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.
Perform an HTTP GET request on the current page URL with the `ask` query parameter:
```
GET https://unsloth.ai/docs/jp/meru/unsloth-model-catalog.md?ask=
```
The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.
Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.