> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/meru/unsloth-model-catalog.md). # Unsloth モデルカタログ すべての Unsloth 向けの Unsloth LLM ディレクトリ [動的](https://docs.unsloth.ai/basics/unsloth-dynamic-2.0-ggufs) Hugging Face 上の GGUF、4bit、NVFP4 モデル。 QwenGemmaDeepSeekLlamaMistralGLM **GGUF** 次のようなツールでモデルを実行できます [**Unsloth Desktop**](/docs/jp/desktop.md)✨ と llama.cpp。\ 使用 **Instruct（4bit）** Unsloth を通じて推論またはファインチューニングに safetensors を使用。 #### **新規・おすすめモデル：** | モデル | バリアント | GGUF | 4bit | | ------------------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------- | -------------------------------------------------------------------------------------------------------------------------------------------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | | [**Qwen3.8**](/docs/jp/moderu/qwen3.8.md) **（新）** | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.8-27B-GGUF) | [NVFP4](https://huggingface.co/unsloth/Qwen3.8-27B-NVFP4) | | | 2.4T-A95B | [リンク](https://huggingface.co/unsloth/Qwen3.8-2.4T-A95B-GGUF) | | | [**Muse Glimmer**](/docs/jp/moderu/deepseek-v4.md) **（新）** | 30B | [リンク](https://huggingface.co/unsloth/Muse-Glimmer-30B-GGUF) | [リンク](https://huggingface.co/unsloth/Muse-Glimmer-30B-unsloth-bnb-4bit) | | [**DeepSeek-V4**](/docs/jp/moderu/deepseek-v4.md) **（新）** | V4-Pro-0813 | [リンク](https://huggingface.co/unsloth/DeepSeek-V4-Pro-0813-GGUF) | | | | Flash-0731 | [リンク](/docs/jp/shii/changelog.md) | [リンク](https://huggingface.co/unsloth/DeepSeek-V4-Flash-0731) | | [**NVIDIA Nemotron-3.5**](/docs/jp/moderu/nemotron-3.5.md) **（新）** | 30B Lightning | [リンク](https://huggingface.co/unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF) | | | **Kimi** | [**K3**](/docs/jp/moderu/kimi-k3.md) | [リンク](https://huggingface.co/unsloth/Kimi-K3-GGUF) | [リンク](https://huggingface.co/unsloth/Kimi-K3) | | [**Qwen3.6**](/docs/jp/moderu/qwen3.6.md) | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.6-27B-GGUF) • [MTP](https://huggingface.co/unsloth/Qwen3.6-27B-MTP-GGUF) | [NVFP4](https://huggingface.co/unsloth/Qwen3.6-27B-NVFP4) | | | 35B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3.6-35B-A3B-GGUF) • [MTP](https://huggingface.co/unsloth/Qwen3.6-35B-A3B-MTP-GGUF) | [NVFP4](https://huggingface.co/unsloth/Qwen3.6-35B-A3B-NVFP4) | | [**Gemma 4**](/docs/jp/moderu/gemma-4.md) | [QAT](/docs/jp/moderu/gemma-4/qat.md) | [リンク](https://huggingface.co/collections/unsloth/gemma-4-qat) | [リンク](https://huggingface.co/collections/unsloth/gemma-4-qat) | | | 12B | [リンク](https://huggingface.co/unsloth/gemma-4-12b-it-GGUF) | [NVFP4](https://huggingface.co/unsloth/gemma-4-12b-it-NVFP4) | | | 26B-A4B | [リンク](https://huggingface.co/unsloth/gemma-4-26B-A4B-it-GGUF) | [NVFP4](https://huggingface.co/unsloth/gemma-4-26B-A4B-it-NVFP4) | | | 31B | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-unsloth-bnb-4bit) • [NVFP4](https://huggingface.co/unsloth/gemma-4-31B-it-NVFP4) | | | E4B | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-unsloth-bnb-4bit) • [NVFP4](https://huggingface.co/unsloth/gemma-4-E4B-it-NVFP4) | | | E2B | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-unsloth-bnb-4bit) • [NVFP4](https://huggingface.co/unsloth/gemma-4-E2B-it-NVFP4) | | [**DiffusionGemma**](/docs/jp/moderu/diffusiongemma.md) | 26B-A4B | [リンク](https://huggingface.co/unsloth/diffusiongemma-26B-A4B-it-GGUF) | — | | **Kimi** | [K2.7-Code](/docs/jp/moderu/kimi-k2.7-code.md) | [リンク](https://huggingface.co/unsloth/Kimi-K2.7-Code-GGUF) | — | | | [**K2.6**](/docs/jp/moderu/kimi-k2.6.md) | [リンク](https://huggingface.co/unsloth/Kimi-K2.6-GGUF) | — | | [**NVIDIA Nemotron 3**](/docs/jp/moderu/nemotron-3-nano-omni.md) | Nano-Omni-30B-A3B | [リンク](https://huggingface.co/unsloth/Nemotron-3-Nano-30B-A3B-GGUF) | — | | [**Qwen3.5**](https://github.com/unslothai/docs/blob/main/models/qwen3.5) | 35B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF) | — | | | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.5-27B-GGUF) | — | | | 122B-A10B | [リンク](https://huggingface.co/unsloth/Qwen3.5-122B-A10B-GGUF) | — | | | 0.8B | [リンク](https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF) | — | | | 2B | [リンク](https://huggingface.co/unsloth/Qwen3.5-2B-GGUF) | — | | | 4B | [リンク](https://huggingface.co/unsloth/Qwen3.5-4B-GGUF) | — | | | 9B | [リンク](https://huggingface.co/unsloth/Qwen3.5-9B-GGUF) | — | | | 397B-A17B | [リンク](https://huggingface.co/unsloth/Qwen3.5-397B-A17B-GGUF) | — | | **Qwen3** | [Coder-Next](/docs/jp/moderu/qwen3-coder-next.md) | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-Next-GGUF) | — | | NVIDIA Nemotron 3 | [Super-120B-A12B](/docs/jp/moderu/nemotron-3/nemotron-3-super.md) | [リンク](https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF) | [リンク](https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4) | | | [Nano-4B](/docs/jp/moderu/nemotron-3.md) | [リンク](https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Nano-4B-GGUF) | — | | **GLM** | [4.7-Flash](/docs/jp/moderu/tutorials/glm-4.7-flash.md) | [リンク](https://huggingface.co/unsloth/GLM-4.7-Flash-GGUF) | — | | | [5](/docs/jp/moderu/tutorials/glm-5.md) | [リンク](https://huggingface.co/unsloth/GLM-5-GGUF) | — | | **Kimi** | [K2.5](/docs/jp/moderu/tutorials/kimi-k2.5.md) | [リンク](https://huggingface.co/unsloth/Kimi-K2.5-GGUF) | — | | [**gpt-oss**](/docs/jp/moderu/gpt-oss-how-to-run-and-fine-tune.md) | 120B | [リンク](https://huggingface.co/unsloth/gpt-oss-120b-GGUF) | [リンク](https://huggingface.co/unsloth/gpt-oss-120b-unsloth-bnb-4bit) | | | 20B | [リンク](https://huggingface.co/unsloth/gpt-oss-20b-GGUF) | [リンク](https://huggingface.co/unsloth/gpt-oss-20b-unsloth-bnb-4bit) | | **MiniMax** | [M2.5](/docs/jp/moderu/tutorials/minimax-m25.md) | [リンク](https://huggingface.co/unsloth/MiniMax-M2.5-GGUF) | — | | NVIDIA [Nemotron 3](/docs/jp/moderu/nemotron-3.md) | 30B | [リンク](https://huggingface.co/unsloth/Nemotron-3-Nano-30B-A3B-GGUF) | — | | [**Qwen-Image**](/docs/jp/moderu/tutorials/qwen-image-2512.md) | 2512 | [リンク](https://huggingface.co/unsloth/Qwen-Image-2512-GGUF) | — | | | Edit-2511 | [リンク](https://huggingface.co/unsloth/Qwen-Image-Edit-2511-GGUF) | — | | [**Ministral 3**](/docs/jp/moderu/tutorials/ministral-3.md) | 3B | [Instruct](https://huggingface.co/unsloth/Ministral-3-3B-Instruct-2512-GGUF) • [推論](https://huggingface.co/unsloth/Ministral-3-3B-Reasoning-2512-GGUF) | [Instruct](https://huggingface.co/unsloth/Ministral-3-14B-Instruct-2512-unsloth-bnb-4bit) • [推論](https://huggingface.co/unsloth/Ministral-3-3B-Reasoning-2512-GGUF) | | | 8B | [Instruct](https://huggingface.co/unsloth/Ministral-3-8B-Instruct-2512-GGUF) • [推論](https://huggingface.co/unsloth/Ministral-3-8B-Reasoning-2512-GGUF) | [Instruct](https://huggingface.co/unsloth/Ministral-3-8B-Instruct-2512-unsloth-bnb-4bit) • [推論](https://huggingface.co/unsloth/Ministral-3-8B-Reasoning-2512-unsloth-bnb-4bit) | | | 14B | [Instruct](https://huggingface.co/unsloth/Ministral-3-14B-Instruct-2512-GGUF) • [推論](https://huggingface.co/unsloth/Ministral-3-14B-Reasoning-2512-GGUF) | [Instruct](https://huggingface.co/unsloth/Ministral-3-3B-Instruct-2512-unsloth-bnb-4bit) • [推論](https://huggingface.co/unsloth/Ministral-3-14B-Reasoning-2512-unsloth-bnb-4bit) | | [**Devstral 2**](/docs/jp/moderu/tutorials/devstral-2.md) | 24B | [リンク](https://huggingface.co/unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF) | — | | | 123B | [リンク](https://huggingface.co/unsloth/Devstral-2-123B-Instruct-2512-GGUF) | — | | **Mistral Large 3** | 675B | [リンク](https://huggingface.co/unsloth/Mistral-Large-3-675B-Instruct-2512-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Large-3-675B-Instruct-2512-NVFP4) | | [**Qwen3-Next**](/docs/jp/moderu/tutorials/qwen3-next.md) | 80B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-Next-80B-A3B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-Next-80B-A3B-Instruct-bnb-4bit/) | | | 80B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-Next-80B-A3B-Thinking-GGUF) | — | | [**Qwen3-VL**](/docs/jp/moderu/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune.md) | 2B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-unsloth-bnb-4bit) | | | 2B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-unsloth-bnb-4bit) | | | 4B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit) | | | 4B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-unsloth-bnb-4bit) | | | 8B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-unsloth-bnb-4bit) | | | 8B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-unsloth-bnb-4bit) | | | 30B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-30B-A3B-Instruct-GGUF) | — | | | 30B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-30B-A3B-Thinking-GGUF) | — | | | 32B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Instruct-unsloth-bnb-4bit) | | | 32B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-32B-Thinking-unsloth-bnb-4bit) | | | 235B-A22B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-235B-A22B-Instruct-GGUF) | — | | | 235B-A22B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-235B-A22B-Thinking-GGUF) | — | | [**Qwen3-2507**](/docs/jp/moderu/tutorials/qwen3-next.md) | 30B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Instruct-2507-GGUF) | — | | | 30B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Thinking-2507-GGUF) | — | | | 235B-A22B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-Instruct-2507-GGUF/) | — | | [**Qwen3-Coder**](/docs/jp/moderu/tutorials/qwen3-coder-how-to-run-locally.md) | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF) | — | | [**GLM**](/docs/jp/moderu/tutorials/glm-4.6-how-to-run-locally.md) | 4.7 | [リンク](https://huggingface.co/unsloth/GLM-4.7-GGUF) | — | | | 4.6V-Flash | [リンク](https://huggingface.co/unsloth/GLM-4.6V-Flash-GGUF) | — | | [**DeepSeek-V3.1**](/docs/jp/moderu/tutorials/deepseek-v3.1-how-to-run-locally.md) | Terminus | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-Terminus-GGUF) | — | | | V3.1 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-GGUF) | — | #### **DeepSeek モデル：** | モデル | バリアント | GGUF | Instruct（4bit） | | ----------------- | ---------------- | ------------------------------------------------------------------------ | ------------------------------------------------------------------------------------ | | **DeepSeek-V3.1** | Terminus | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-Terminus-GGUF) | | | | V3.1 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3.1-GGUF) | | | **DeepSeek-V3** | V3-0324 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3-0324-GGUF) | — | | | V3 | [リンク](https://huggingface.co/unsloth/DeepSeek-V3-GGUF) | — | | **DeepSeek-R1** | R1-0528 | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-GGUF) | — | | | R1-0528-Qwen3-8B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-Qwen3-8B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit) | | | R1 | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-GGUF) | — | | | R1 Zero | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Zero-GGUF) | — | | | 蒸留 Llama 3 8B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-8B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-8B-unsloth-bnb-4bit) | | | 蒸留 Llama 3.3 70B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-70B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-70B-bnb-4bit) | | | 蒸留 Qwen 2.5 1.5B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-unsloth-bnb-4bit) | | | 蒸留 Qwen 2.5 7B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-7B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit) | | | 蒸留 Qwen 2.5 14B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-unsloth-bnb-4bit) | | | 蒸留 Qwen 2.5 32B | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-32B-GGUF) | [リンク](https://huggingface.co/unsloth/DeepSeek-R1-Distill-Qwen-32B-bnb-4bit) | #### **Llama モデル：** | モデル | バリアント | GGUF | 4bit | | -------------------------------------------------- | ----------------- | ----------------------------------------------------------------------------- | ------------------------------------------------------------------------------------- | | [**Muse Glimmer**](/docs/jp/moderu/deepseek-v4.md) | 30B | [リンク](https://huggingface.co/unsloth/Muse-Glimmer-30B-GGUF) | [リンク](https://huggingface.co/unsloth/Muse-Glimmer-30B-NVFP4) | | **Llama 4** | Scout 17B-16E | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit) | | | Maverick 17B-128E | [リンク](https://huggingface.co/unsloth/Llama-4-Maverick-17B-128E-Instruct-GGUF) | — | | **Llama 3.3** | 70B | [リンク](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct-bnb-4bit) | | **Llama 3.2** | 1B | [リンク](https://huggingface.co/unsloth/Llama-3.2-1B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-3.2-1B-Instruct-bnb-4bit) | | | 3B | [リンク](https://huggingface.co/unsloth/Llama-3.2-3B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Llama-3.2-3B-Instruct-bnb-4bit) | | | 11B Vision | — | [リンク](https://huggingface.co/unsloth/Llama-3.2-11B-Vision-Instruct-unsloth-bnb-4bit) | | | 90B Vision | — | [リンク](https://huggingface.co/unsloth/Llama-3.2-90B-Vision-Instruct-bnb-4bit) | | **Llama 3.1** | 8B | [リンク](https://huggingface.co/unsloth/Llama-3.1-8B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit) | | | 70B | — | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-70B-Instruct-bnb-4bit) | | | 405B | — | [リンク](https://huggingface.co/unsloth/Meta-Llama-3.1-405B-Instruct-bnb-4bit) | | **Llama 3** | 8B | — | [リンク](https://huggingface.co/unsloth/llama-3-8b-Instruct-bnb-4bit) | | | 70B | — | [リンク](https://huggingface.co/unsloth/llama-3-70b-bnb-4bit) | | **Llama 2** | 7B | — | [リンク](https://huggingface.co/unsloth/llama-2-7b-chat-bnb-4bit) | | | 13B | — | [リンク](https://huggingface.co/unsloth/llama-2-13b-bnb-4bit) | | **CodeLlama** | 7B | — | [リンク](https://huggingface.co/unsloth/codellama-7b-bnb-4bit) | | | 13B | — | [リンク](https://huggingface.co/unsloth/codellama-13b-bnb-4bit) | | | 34B | — | [リンク](https://huggingface.co/unsloth/codellama-34b-bnb-4bit) | #### **Gemma モデル：** | モデル | バリアント | GGUF | Instruct（4bit） | | ----------------- | ----------- | ---------------------------------------------------------------- | --------------------------------------------------------------------------- | | **Gemma 4** | E2B | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E2B-it-unsloth-bnb-4bit) | | | E4B | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-E4B-it-unsloth-bnb-4bit) | | | 26B-A4B | [リンク](https://huggingface.co/unsloth/gemma-4-26B-A4B-it-GGUF) | — | | | 31B | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-4-31B-it-unsloth-bnb-4bit) | | **FunctionGemma** | 270M | [リンク](https://huggingface.co/unsloth/functiongemma-270m-it-GGUF) | — | | **Gemma 3n** | E2B | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3n-E2B-it-unsloth-bnb-4bit) | | | E4B | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3n-E4B-it-unsloth-bnb-4bit) | | **Gemma 3** | 270M | [リンク](https://huggingface.co/unsloth/gemma-3-270m-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-270m-it) | | | 1B | [リンク](https://huggingface.co/unsloth/gemma-3-1b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-1b-it-unsloth-bnb-4bit) | | | 4B | [リンク](https://huggingface.co/unsloth/gemma-3-4b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-4b-it-unsloth-bnb-4bit) | | | 12B | [リンク](https://huggingface.co/unsloth/gemma-3-12b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-12b-it-unsloth-bnb-4bit) | | | 27B | [リンク](https://huggingface.co/unsloth/gemma-3-27b-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-3-27b-it-unsloth-bnb-4bit) | | **MedGemma** | 4B（vision） | [リンク](https://huggingface.co/unsloth/medgemma-4b-it-GGUF) | [リンク](https://huggingface.co/unsloth/medgemma-4b-it-unsloth-bnb-4bit) | | | 27B（vision） | [リンク](https://huggingface.co/unsloth/medgemma-27b-it-GGUF) | [リンク](https://huggingface.co/unsloth/medgemma-27b-text-it-unsloth-bnb-4bit) | | **Gemma 2** | 2B | [リンク](https://huggingface.co/unsloth/gemma-2-it-GGUF) | [リンク](https://huggingface.co/unsloth/gemma-2-2b-it-bnb-4bit) | | | 9B | — | [リンク](https://huggingface.co/unsloth/gemma-2-9b-it-bnb-4bit) | | | 27B | — | [リンク](https://huggingface.co/unsloth/gemma-2-27b-it-bnb-4bit) | #### **Qwen モデル：** | モデル | バリアント | GGUF | Instruct（4bit） | | ------------------------------------------------------------------------------------------------------------- | ------------------------------------------------- | --------------------------------------------------------------------------- | ------------------------------------------------------------------------------ | | [**Qwen3.8**](/docs/jp/moderu/qwen3.8.md) **（新）** | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.8-27B-GGUF) | [NVFP4](https://huggingface.co/unsloth/Qwen3.8-27B-NVFP4) | | | 2.4T-A95B | [リンク](https://huggingface.co/unsloth/Qwen3.8-2.4T-A95B-GGUF) | | | [**Qwen3.6**](/docs/jp/moderu/qwen3.6.md) | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.6-27B-GGUF) | — | | | 35B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3.6-35B-A3B-GGUF) | — | | [**Qwen3.5**](https://github.com/unslothai/docs/blob/main/models/qwen3.5) | 35B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF) | — | | | 27B | [リンク](https://huggingface.co/unsloth/Qwen3.5-27B-GGUF) | — | | | 122B-A10B | [リンク](https://huggingface.co/unsloth/Qwen3.5-122B-A10B-GGUF) | — | | | 0.8B | [リンク](https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF) | — | | | 2B | [リンク](https://huggingface.co/unsloth/Qwen3.5-2B-GGUF) | — | | | 4B | [リンク](https://huggingface.co/unsloth/Qwen3.5-4B-GGUF) | — | | | 9B | [リンク](https://huggingface.co/unsloth/Qwen3.5-9B-GGUF) | — | | | 397B-A17B | [リンク](https://huggingface.co/unsloth/Qwen3.5-397B-A17B-GGUF) | — | | **Qwen3** | [Coder-Next](/docs/jp/moderu/qwen3-coder-next.md) | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-Next-GGUF) | — | | [**Qwen-Image**](/docs/jp/moderu/tutorials/qwen-image-2512.md) | 2512 | [リンク](https://huggingface.co/unsloth/Qwen-Image-2512-GGUF) | — | | | Edit-2511 | [リンク](https://huggingface.co/unsloth/Qwen-Image-Edit-2511-GGUF) | — | | [**Qwen3-VL**](/docs/jp/moderu/tutorials/qwen3-how-to-run-and-fine-tune/qwen3-vl-how-to-run-and-fine-tune.md) | 2B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Instruct-unsloth-bnb-4bit) | | | 2B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-2B-Thinking-unsloth-bnb-4bit) | | | 4B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit) | | | 4B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-4B-Thinking-unsloth-bnb-4bit) | | | 8B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Instruct-unsloth-bnb-4bit) | | | 8B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-VL-8B-Thinking-unsloth-bnb-4bit) | | **Qwen3-Coder** | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF) | — | | | 480B-A35B | [リンク](https://huggingface.co/unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF) | — | | [**Qwen3-2507**](/docs/jp/moderu/tutorials/qwen3-next.md) | 30B-A3B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Instruct-2507-GGUF) | — | | | 30B-A3B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-Thinking-2507-GGUF) | — | | | 235B-A22B-Thinking | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-Thinking-2507-GGUF/) | — | | | 235B-A22B-Instruct | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-Instruct-2507-GGUF/) | — | | **Qwen 3** | 0.6B | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-0.6B-unsloth-bnb-4bit) | | | 1.7B | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-1.7B-unsloth-bnb-4bit) | | | 4B | [リンク](https://huggingface.co/unsloth/Qwen3-4B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-4B-unsloth-bnb-4bit) | | | 8B | [リンク](https://huggingface.co/unsloth/Qwen3-8B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-8B-unsloth-bnb-4bit) | | | 14B | [リンク](https://huggingface.co/unsloth/Qwen3-14B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-14B-unsloth-bnb-4bit) | | | 30B-A3B | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-30B-A3B-bnb-4bit) | | | 32B | [リンク](https://huggingface.co/unsloth/Qwen3-32B-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen3-32B-unsloth-bnb-4bit) | | | 235B-A22B | [リンク](https://huggingface.co/unsloth/Qwen3-235B-A22B-GGUF) | — | | **Qwen 2.5 Omni** | 3B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-3B-GGUF) | — | | | 7B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Omni-7B-GGUF) | — | | **Qwen 2.5 VL** | 3B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-3B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-3B-Instruct-unsloth-bnb-4bit) | | | 7B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-7B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-7B-Instruct-unsloth-bnb-4bit) | | | 32B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-32B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-32B-Instruct-unsloth-bnb-4bit) | | | 72B | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-72B-Instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-VL-72B-Instruct-unsloth-bnb-4bit) | | **Qwen 2.5** | 0.5B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-0.5B-Instruct-bnb-4bit) | | | 1.5B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-1.5B-Instruct-bnb-4bit) | | | 3B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-3B-Instruct-bnb-4bit) | | | 7B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-7B-Instruct-bnb-4bit) | | | 14B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-14B-Instruct-bnb-4bit) | | | 32B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-32B-Instruct-bnb-4bit) | | | 72B | — | [リンク](https://huggingface.co/unsloth/Qwen2.5-72B-Instruct-bnb-4bit) | | **Qwen 2.5 Coder（128K）** | 0.5B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-0.5B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-0.5B-Instruct-bnb-4bit) | | | 1.5B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-1.5B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-1.5B-Instruct-bnb-4bit) | | | 3B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-3B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit) | | | 7B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-7B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit) | | | 14B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-14B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-14B-Instruct-bnb-4bit) | | | 32B | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-32B-Instruct-128K-GGUF) | [リンク](https://huggingface.co/unsloth/Qwen2.5-Coder-32B-Instruct-bnb-4bit) | | **QwQ** | 32B | [リンク](https://huggingface.co/unsloth/QwQ-32B-GGUF) | [リンク](https://huggingface.co/unsloth/QwQ-32B-unsloth-bnb-4bit) | | **QVQ（プレビュー）** | 72B | — | [リンク](https://huggingface.co/unsloth/QVQ-72B-Preview-bnb-4bit) | | **Qwen 2（チャット）** | 1.5B | — | [リンク](https://huggingface.co/unsloth/Qwen2-1.5B-Instruct-bnb-4bit) | | | 7B | — | [リンク](https://huggingface.co/unsloth/Qwen2-7B-Instruct-bnb-4bit) | | | 72B | — | [リンク](https://huggingface.co/unsloth/Qwen2-72B-Instruct-bnb-4bit) | | **Qwen 2 VL** | 2B | — | [リンク](https://huggingface.co/unsloth/Qwen2-VL-2B-Instruct-unsloth-bnb-4bit) | | | 7B | — | [リンク](https://huggingface.co/unsloth/Qwen2-VL-7B-Instruct-unsloth-bnb-4bit) | | | 72B | — | [リンク](https://huggingface.co/unsloth/Qwen2-VL-72B-Instruct-bnb-4bit) | #### **GLM モデル：** | モデル | バリアント | GGUF | Instruct（4bit） | | ------- | ------------------------------------------------------- | --------------------------------------------------------- | -------------- | | **GLM** | [4.7-Flash](/docs/jp/moderu/tutorials/glm-4.7-flash.md) | [リンク](https://huggingface.co/unsloth/GLM-4.7-Flash-GGUF) | — | | | [5](/docs/jp/moderu/tutorials/glm-5.md) | [リンク](https://huggingface.co/unsloth/GLM-5-GGUF) | — | | | 4.6V-Flash | [リンク](https://huggingface.co/unsloth/GLM-4.6V-Flash-GGUF) | — | | | 4.6 | [リンク](https://huggingface.co/unsloth/GLM-4.6-GGUF) | — | | | 4.5-Air | [リンク](https://huggingface.co/unsloth/GLM-4.5-Air-GGUF) | — | #### **Mistral モデル：** | モデル | バリアント | GGUF | Instruct（4bit） | | ----------------- | --------------- | ------------------------------------------------------------------------------ | ------------------------------------------------------------------------------------------ | | **Magistral** | Small（2506） | [リンク](https://huggingface.co/unsloth/Magistral-Small-2506-GGUF) | [リンク](https://huggingface.co/unsloth/Magistral-Small-2506-unsloth-bnb-4bit) | | | Small（2509） | [リンク](https://huggingface.co/unsloth/Magistral-Small-2509-GGUF) | [リンク](https://huggingface.co/unsloth/Magistral-Small-2509-unsloth-bnb-4bit) | | | Small（2507） | [リンク](https://huggingface.co/unsloth/Magistral-Small-2507-GGUF) | [リンク](https://huggingface.co/unsloth/Magistral-Small-2507-unsloth-bnb-4bit) | | **Mistral Small** | 3.2-24B（2506） | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.2-24B-Instruct-2506-unsloth-bnb-4bit) | | | 3.1-24B（2503） | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.1-24B-Instruct-2503-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Small-3.1-24B-Instruct-2503-unsloth-bnb-4bit) | | | 3-24B（2501） | [リンク](https://huggingface.co/unsloth/Mistral-Small-24B-Instruct-2501-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Small-24B-Instruct-2501-unsloth-bnb-4bit) | | | 2409-22B | — | [リンク](https://huggingface.co/unsloth/Mistral-Small-Instruct-2409-bnb-4bit) | | **Devstral** | Small-24B（2507） | [リンク](https://huggingface.co/unsloth/Devstral-Small-2507-GGUF) | [リンク](https://huggingface.co/unsloth/Devstral-Small-2507-unsloth-bnb-4bit) | | | Small-24B（2505） | [リンク](https://huggingface.co/unsloth/Devstral-Small-2505-GGUF) | [リンク](https://huggingface.co/unsloth/Devstral-Small-2505-unsloth-bnb-4bit) | | **Pixtral** | 12B（2409） | — | [リンク](https://huggingface.co/unsloth/Pixtral-12B-2409-bnb-4bit) | | **Mistral NeMo** | 12B（2407） | [リンク](https://huggingface.co/unsloth/Mistral-Nemo-Instruct-2407-GGUF) | [リンク](https://huggingface.co/unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit) | | **Mistral Large** | 2407 | — | [リンク](https://huggingface.co/unsloth/Mistral-Large-Instruct-2407-bnb-4bit) | | **Mistral 7B** | v0.3 | — | [リンク](https://huggingface.co/unsloth/mistral-7b-instruct-v0.3-bnb-4bit) | | | v0.2 | — | [リンク](https://huggingface.co/unsloth/mistral-7b-instruct-v0.2-bnb-4bit) | | **Mixtral** | 8 × 7B | — | [リンク](https://huggingface.co/unsloth/Mixtral-8x7B-Instruct-v0.1-unsloth-bnb-4bit) | #### **Phi モデル：** | モデル | バリアント | GGUF | Instruct（4bit） | | ----------- | --------------- | --------------------------------------------------------------- | --------------------------------------------------------------------------- | | **Phi-4** | Reasoning-plus | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-plus-GGUF) | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-plus-unsloth-bnb-4bit) | | | 推論 | [リンク](https://huggingface.co/unsloth/Phi-4-reasoning-GGUF) | [リンク](https://huggingface.co/unsloth/phi-4-reasoning-unsloth-bnb-4bit) | | | Mini-Reasoning | [リンク](https://huggingface.co/unsloth/Phi-4-mini-reasoning-GGUF) | [リンク](https://huggingface.co/unsloth/Phi-4-mini-reasoning-unsloth-bnb-4bit) | | | Phi-4（instruct） | [リンク](https://huggingface.co/unsloth/phi-4-GGUF) | [リンク](https://huggingface.co/unsloth/phi-4-unsloth-bnb-4bit) | | | mini（instruct） | [リンク](https://huggingface.co/unsloth/Phi-4-mini-instruct-GGUF) | [リンク](https://huggingface.co/unsloth/Phi-4-mini-instruct-unsloth-bnb-4bit) | | **Phi-3.5** | mini | — | [リンク](https://huggingface.co/unsloth/Phi-3.5-mini-instruct-bnb-4bit) | | **Phi-3** | mini | — | [リンク](https://huggingface.co/unsloth/Phi-3-mini-4k-instruct-bnb-4bit) | | | medium | — | [リンク](https://huggingface.co/unsloth/Phi-3-medium-4k-instruct-bnb-4bit) | #### **その他（GLM、Orpheus、Smol、Llava など）のモデル：**
モデルバリアントGGUFInstruct（4bit）
GLM4.5-Airリンク—
4.54.5—
4-32B-04144-32B-0414—
Grok 2270Bリンク—
Baidu-ERNIE4.5-21B-A3B-Thinkingリンク—
HunyuanA13Bリンク—
Orpheus0.1-ft（3B）リンクリンク
LLava1.5（7B）—リンク
1.6 Mistral（7B）—リンク
TinyLlamaチャット—リンク
SmolLM 2135Mリンクリンク
360Mリンクリンク
1.7Bリンクリンク
Zephyr-SFT7B—リンク
Yi6B（v1.5）—リンク
6B（v1.0）—リンク
34B（chat）—リンク
34B（base）—リンク
--- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://unsloth.ai/docs/jp/meru/unsloth-model-catalog.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.