# Qwen3.5 微调指南
你现在可以微调 [Qwen3.5](/docs/zh/mo-xing/qwen3.5.md) 模型家族（0.8B、2B、4B、9B、27B、35B‑A3B、122B‑A10B）使用 [**使用 Unsloth 进行**](https://github.com/unslothai/unsloth)。支持包括 [视觉](/docs/zh/mo-xing/qwen3.5/fine-tune.md#vision-fine-tuning)、文本和 [RL](#reinforcement-learning-rl) 微调。 **Qwen3.5‑35B‑A3B** - bf16 LoRA 可在 **74GB 显存上运行。**
* Unsloth 使 Qwen3.5 训练 **快 1.5 倍** 并且使用 **比 FA2 配置少 50% 的显存** 。
* Qwen3.5 bf16 LoRA 显存使用： **0.8B**：3GB • **2B**：5GB • **4B**：10GB • **9B**：22GB • **27B**：56GB
* 通过我们的 **0.8B**, **2B** 以及 **4B** 通过我们的 bf16 LoRA **免费** **Google Colab 笔记本**:
| [Qwen3.5-**0.8B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(0_8B\)_Vision.ipynb) | [Qwen3.5-**2B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(2B\)_Vision.ipynb) | [Qwen3.5-**4B**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(4B\)_Vision.ipynb) | [Qwen3.5-4B **GRPO**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_\(4B\)_Vision_GRPO.ipynb) |
| --------------------------------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------- |
* 如果你想 **保留推理** 能力，你可以将推理风格示例与直接答案混合使用（至少保留 75% 的推理）。否则你可以完全输出。
* **全量微调（FFT）** 也同样可用。请注意，这将使用 4 倍更多的显存。
* Qwen3.5 适合多语言微调，因为它支持 201 种语言。
* 微调完成后，你可以导出为 [GGUF](#saving-export-your-fine-tuned-model) （适用于 llama.cpp/Ollama 等）或 [vLLM](#saving-export-your-fine-tuned-model)
* [强化学习](/docs/zh/kai-shi-shi-yong/reinforcement-learning-rl-guide.md) （RL）用于 Qwen3.5 [VLM RL](/docs/zh/kai-shi-shi-yong/reinforcement-learning-rl-guide/vision-reinforcement-learning-vlm-rl.md) 也可通过 Unsloth 推理使用。
* 我们有 **A100** Colab 笔记本用于 [Qwen3.5‑27B](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen_3_5_27B_A100\(80GB\).ipynb) 以及 [Qwen3.5‑35B‑A3B](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_MoE.ipynb).
如果你使用的是旧版本（或在本地微调），请先更新：
{% columns %}
{% column %}
Unsloth Studio：
{% code expandable="true" %}
```bash
unsloth studio update
```
{% endcode %}
{% endcolumn %}
{% column %}
基于代码的 Unsloth：
```bash
pip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo
```
{% endcolumn %}
{% endcolumns %}
{% hint style="warning" %}
**请使用 `transformers v5` 用于 Qwen3.5。旧版本将无法使用。Unsloth 现在默认会自动使用 transformers v5（Colab 环境除外）。**
如果训练看起来 **比平时更慢**，那是因为 Qwen3.5 使用了自定义的 Mamba Triton 内核。编译这些内核可能比正常情况更久，尤其是在 T4 GPU 上。
不建议在 Qwen3.5 模型上进行 QLoRA（4-bit）训练，无论是 MoE 还是稠密模型，都因为量化差异高于正常水平。
{% endhint %}
### MoE 微调（35B、122B）
对于像以下这样的 MoE 模型 **Qwen3.5‑35B‑A3B / 122B‑A10B / 397B‑A17B**:
* 你可以使用我们的 [Qwen3.5‑35B‑A3B（A100）](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_MoE.ipynb) 微调笔记本
* 支持我们最近约快 12 倍的 [MoE 训练更新](/docs/zh/ji-chu/faster-moe.md) 显存减少 >35%，上下文长度约提升 6 倍
* **最好使用 bf16 配置（例如 LoRA 或全参数微调）** （由于 BitsandBytes 的限制，不建议使用 MoE QLoRA 4-bit）。
* Unsloth 的 MoE 内核默认启用，并且可以使用不同后端；你可以通过以下方式切换： `UNSLOTH_MOE_BACKEND`.
* 为稳定起见，默认禁用路由层微调。
* Qwen3.5‑122B‑A10B - bf16 LoRA 可在 256GB 显存上运行。如果你使用多 GPU，请添加 `device_map = "balanced"` 或者参考我们的 [多 GPU 指南](/docs/zh/ji-chu/multi-gpu-training-with-unsloth.md).
### 快速开始
#### 🦥 Unsloth Studio 指南
Qwen3.5 可以在以下环境中运行和微调 [Unsloth Studio](/docs/zh/xin-zeng/studio.md)中运行和微调，这是我们为本地 AI 推出的新开源网页界面。使用 Unsloth Studio，你可以在以下系统上本地运行模型： **MacOS、Windows**、Linux 以及：
{% columns %}
{% column %}
* [训练 LLM](/docs/zh/xin-zeng/studio.md#no-code-training) 速度提升 2 倍，VRAM 减少 70%
* 搜索、下载、 [运行 GGUF](/docs/zh/xin-zeng/studio.md#run-models-locally) 和 safetensor 模型
* [**自我修复** 工具调用](/docs/zh/xin-zeng/studio.md#execute-code--heal-tool-calling) + **网页搜索**
* [**代码执行**](/docs/zh/xin-zeng/studio.md#run-models-locally) （Python、Bash）
* [自动推理](/docs/zh/xin-zeng/studio.md#model-arena) 参数调优（temp、top-p 等）
* 通过 llama.cpp 实现快速 CPU + GPU 推理
{% endcolumn %}
{% column %}
