> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/zh/mo-xing/qwen3.5/fine-tune.md).
# Qwen3.5 微调指南
你现在可以微调 [Qwen3.5](/docs/zh/mo-xing/qwen3.5.md) 模型家族（0.8B、2B、4B、9B、27B、35B‑A3B、122B‑A10B），使用 [**Unsloth**](https://github.com/unslothai/unsloth)。支持包括 [视觉](/docs/zh/mo-xing/qwen3.5/fine-tune.md#vision-fine-tuning)、文本和 [RL](#reinforcement-learning-rl) 微调。 **Qwen3.5‑35B‑A3B** - bf16 LoRA 可在 **74GB 显存**
* 上使用。Unsloth 让 Qwen3.5 训练速度 **快 1.5×** ，并且比 FA2 配置使用 **少 50% 的显存** 。
* Qwen3.5 bf16 LoRA 显存占用： **0.8B**：3GB • **2B**：5GB • **4B**：10GB • **9B**：22GB • **27B**：56GB
* 微调 **0.8B**, **2B** 和 **4B** 通过我们的 **免费** **Google Colab 笔记本进行 bf16 LoRA**:
| [Qwen3.5-**0.8B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(0_8B\)_Vision.ipynb) | [Qwen3.5-**2B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(2B\)_Vision.ipynb) | [Qwen3.5-**4B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(4B\)_Vision.ipynb) | [Qwen3.5-4B **GRPO**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(4B\)_Vision_GRPO.ipynb) |
| --------------------------------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------- |
* 如果你想 **保留推理** 能力，你可以将推理风格示例与直接回答混合使用（至少保留 75% 的推理）。否则你可以完全输出。
* **全量微调（FFT）** 也同样可行。注意这会使用 4 倍显存。
* Qwen3.5 非常适合多语言微调，因为它支持 201 种语言。
* 微调后，你可以导出为 [GGUF](#saving-export-your-fine-tuned-model) （用于 llama.cpp/Ollama 等）或 [vLLM](#saving-export-your-fine-tuned-model)
* [强化学习](/docs/zh/kai-shi-shi-yong/reinforcement-learning-rl-guide.md) （RL）用于 Qwen3.5 [VLM RL](/docs/zh/kai-shi-shi-yong/reinforcement-learning-rl-guide/vision-reinforcement-learning-vlm-rl.md) 也可以通过 Unsloth 推理使用。
* 我们有 **A100** Colab 笔记本用于 [Qwen3.5‑27B](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen_3_5_27B_A100\(80GB\).ipynb) 和 [Qwen3.5‑35B‑A3B](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_MoE.ipynb).
如果你使用的是旧版本（或在本地微调），请先更新：
{% columns %}
{% column width="50%" %}
Unsloth Studio：
{% code expandable="true" %}
```bash
unsloth studio update
```
{% endcode %}
{% endcolumn %}
{% column width="50%" %}
Unsloth 代码版：
```bash
pip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo
```
{% endcolumn %}
{% endcolumns %}
{% hint style="warning" %}
**请使用 `transformers v5` 来运行 Qwen3.5。旧版本无法使用。Unsloth 现在会默认自动使用 transformers v5（Colab 环境除外）。**
如果训练看起来 **比平时更慢**，那是因为 Qwen3.5 使用了自定义的 Mamba Triton 内核。编译这些内核可能比正常情况更久，尤其是在 T4 GPU 上。
不建议在 Qwen3.5 模型上进行 QLoRA（4-bit）训练，无论是 MoE 还是稠密模型，因为量化差异高于正常水平。
{% endhint %}
### MoE 微调（35B、122B）
对于如下 MoE 模型 **Qwen3.5‑35B‑A3B / 122B‑A10B / 397B‑A17B**:
* 你可以使用我们的 [Qwen3.5‑35B‑A3B（A100）](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_MoE.ipynb) 微调笔记本
* 支持我们最新的约 12 倍更快 [MoE 训练更新](/docs/zh/ji-chu/faster-moe.md) ，显存占用减少 >35%，上下文长度约提升 6 倍
* **最好使用 bf16 配置（例如 LoRA 或全量微调）** （由于 BitsandBytes 的限制，不推荐 MoE QLoRA 4-bit）。
* Unsloth 的 MoE 内核默认启用，并且可以使用不同后端；你可以通过 `UNSLOTH_MOE_BACKEND`.
* 进行切换。为稳定起见，路由层微调默认已禁用。
* Qwen3.5‑122B‑A10B - bf16 LoRA 可在 256GB 显存上运行。如果你使用多 GPU，请添加 `device_map = "balanced"` 或者参考我们的 [多 GPU 指南](/docs/zh/ji-chu/multi-gpu-training-with-unsloth.md).
### 快速开始
#### 🦥 Unsloth Studio 指南
Qwen3.5 可以在 [Unsloth Studio](/docs/zh/xin/studio.md)中运行和微调，这是我们新的用于本地 AI 的开源 Web UI。借助 Unsloth Studio，你可以在本地运行模型，使用 **MacOS、Windows**、Linux 以及：
{% columns %}
{% column %}
* [训练 LLM](/docs/zh/xin/studio.md#no-code-training) 速度提升 2 倍，显存占用减少 70%
* 搜索、下载、 [运行 GGUFs](/docs/zh/xin/studio.md#run-models-locally) 和 safetensor 模型
* [**自我修复** 工具调用](/docs/zh/xin/studio.md#execute-code--heal-tool-calling) + **网页搜索**
* [**代码执行**](/docs/zh/xin/studio.md#run-models-locally) （Python、Bash）
* [自动推理](/docs/zh/xin/studio.md#model-arena) 参数调优（temp、top-p 等）
* 通过 llama.cpp 实现快速的 CPU + GPU 推理
{% endcolumn %}
{% column %}
