> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/zh/mo-xing/qwen3.5/fine-tune.md).
# Qwen3.5 微调指南
了解如何使用 Unsloth 微调 Qwen3.5 LLM。
你现在可以微调 [Qwen3.5](/docs/zh/mo-xing/qwen3.5.md) 模型家族（0.8B、2B、4B、9B、27B、35B‑A3B、122B‑A10B）使用 [**Unsloth**](https://github.com/unslothai/unsloth)。支持包括 [视觉](/docs/zh/mo-xing/qwen3.5/fine-tune.md#vision-fine-tuning)，文本和 [RL](#reinforcement-learning-rl) 微调。 **Qwen3.5‑35B‑A3B** - bf16 LoRA 可在 **74GB 显存上运行。**
* Unsloth 让 Qwen3.5 的训练 **快 1.5 倍** 并使用 **少 50% 的显存** 比 FA2 配置。
* Qwen3.5 bf16 LoRA 显存占用： **0.8B**：3GB • **2B**：5GB • **4B**：10GB • **9B**：22GB • **27B**：56GB
* 微调 **0.8B**, **2B** 和 **4B** 通过我们的 bf16 LoRA **免费** **Google Colab 笔记本**:
| [Qwen3.5-**0.8B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(0_8B\)_Vision.ipynb) | [Qwen3.5-**2B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(2B\)_Vision.ipynb) | [Qwen3.5-**4B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(4B\)_Vision.ipynb) | [Qwen3.5-4B **GRPO**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(4B\)_Vision_GRPO.ipynb) |
| --------------------------------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------- |
* 如果你想 **保留推理** 功能，你可以将推理风格示例与直接答案混合（推理内容至少保留 75%）。否则你可以完全输出它。
* **全参数微调（FFT）** 同样可用。请注意，它会占用 4 倍的显存。
* Qwen3.5 非常适合多语言微调，因为它支持 201 种语言。
* 微调后，你可以导出为 [GGUF](#saving-export-your-fine-tuned-model) （用于 llama.cpp/Ollama 等）或 [vLLM](#saving-export-your-fine-tuned-model)
* [强化学习](/docs/zh/kuai-su-kai-shi/reinforcement-learning-rl-guide.md) （RL）用于 Qwen3.5 [VLM 强化学习](/docs/zh/kuai-su-kai-shi/reinforcement-learning-rl-guide/vision-reinforcement-learning-vlm-rl.md) 也可通过 Unsloth 推理使用。
* 我们有 **A100** 用于 [Qwen3.5‑27B](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen_3_5_27B_A100\(80GB\).ipynb) 和 [Qwen3.5‑35B‑A3B](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_MoE.ipynb).
如果你使用的是旧版本（或在本地微调），请先更新：
{% columns %}
{% column width="50%" %}
Unsloth Studio：
{% code expandable="true" %}
```bash
unsloth studio 更新
```
{% endcode %}
{% endcolumn %}
{% column width="50%" %}
基于代码的 Unsloth：
```bash
pip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo
```
{% endcolumn %}
{% endcolumns %}
{% hint style="warning" %}
**请使用 `transformers v5` 用于 Qwen3.5。旧版本将无法工作。Unsloth 现在默认会自动使用 transformers v5（Colab 环境除外）。**
如果训练看起来 **比平时更慢**，那是因为 Qwen3.5 使用了自定义的 Mamba Triton 内核。编译这些内核可能比平时更久，尤其是在 T4 GPU 上。
不建议在 Qwen3.5 模型上进行 QLoRA（4 位）训练，无论是 MoE 还是稠密模型，因为量化差异高于正常水平。
{% endhint %}
### MoE 微调（35B、122B）
对于以下这类 MoE 模型： **Qwen3.5‑35B‑A3B / 122B‑A10B / 397B‑A17B**:
* 你可以使用我们的 [Qwen3.5‑35B‑A3B (A100)](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_MoE.ipynb) 微调笔记本
* 支持我们近期约快 12 倍的 [MoE 训练更新](/docs/zh/ji-chu-zhi-shi/faster-moe.md) 可节省超过 35% 的显存，并支持约 6 倍更长的上下文
* **最好使用 bf16 配置（例如 LoRA 或全参数微调）** （由于 BitsandBytes 的限制，不推荐使用 MoE QLoRA 4 位。）
* Unsloth 的 MoE 内核默认已启用，并且可以使用不同后端；你可以通过以下方式切换： `UNSLOTH_MOE_BACKEND`.
* 为了稳定性，路由层微调默认被禁用。
* Qwen3.5‑122B‑A10B - bf16 LoRA 可在 256GB 显存上运行。如果你使用多 GPU，请添加 `device_map = "balanced"` 或参考我们的 [多 GPU 指南](/docs/zh/ji-chu-zhi-shi/multi-gpu-training-with-unsloth.md).
### 快速入门
#### 🦥 Unsloth Studio 指南
Qwen3.5 可以在 [Unsloth Studio](/docs/zh/xin/studio.md)，这是我们新的本地 AI 开源 Web UI。借助 Unsloth Studio，你可以在以下平台本地运行模型 **MacOS、Windows**、Linux 以及：
{% columns %}
{% column %}
* [训练 LLM](/docs/zh/xin/studio.md#no-code-training) 速度快 2 倍，VRAM 占用减少 70%
* 搜索、下载、 [运行 GGUF](/docs/zh/xin/studio.md#run-models-locally) 和 safetensor 模型
* [**自修复** 工具调用](/docs/zh/xin/studio.md#execute-code--heal-tool-calling) + **网页搜索**
* [**代码执行**](/docs/zh/xin/studio.md#run-models-locally) （Python、Bash）
* [自动推理](https://unsloth.ai/docs/desktop#feature-deep-dive) 参数调优（温度、top-p 等）
* 通过 llama.cpp 实现快速 CPU + GPU 推理
{% endcolumn %}
{% column %}
