> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/zh/xin/changelog.md).

# Unsloth 更新

Unsloth 更新日志，记录我们最新的发布、改进和修复。

要使用最新更改， [请更新 Unsloth](https://unsloth.ai/docs/zh/xin/studio/install.md#update-unsloth-studio).

{% updates format="full" %}
{% update date="2026-11-19" tags="new-releases,v0-1-920-beta" %}

## AMD NPU + 视频扩散 LoRA

我们为 [AMD NPU 支持](https://unsloth.ai/docs/get-started/install/amd/npu) Unsloth 带来了重大更新：现在，您转换的 Q4NX 模型可在 NPU 上加载，而且每个 NPU 模型都会显示其是否正在运行。此外还新增了 LTX-2.5 + MOSS-Image LoRA 训练、NVIDIA Cosmos3 FP8 视频、Strix Halo 上更快的图像生成，以及可在聊天中回复的计划任务。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FyHiRzvnhsqaoo7JokPs7%2Famd%20color%20final.png?alt=media&amp;token=fd08e40a-0f83-404a-8cf0-569bbe12790f" alt="" width="375"><figcaption></figcaption></figure>

* **AMD NPU 支持** 与 GPU 相比，NPU 每焦耳每 token 的效率高出 2 到 4 倍 [指南](https://unsloth.ai/docs/get-started/install/amd/npu) + [AMD 博客](https://www.amd.com/en/blogs/2026/unlocking-the-amd-ryzen-ai-npu-for-unsloth-desktop.html)
* **转换为 Q4NX** 现在在「导出」页面中有了专属标签页，转换后的模型也可在 NPU 上加载
* **Strix Halo 上更快的图像生成** 在 Windows 上，使用 FLUX.3 Klein 时每步最快可提升 28%
* **LTX-2.5 + MOSS-Image LoRA 训练** 现已登陆 Unsloth
* **扩散 LoRA 训练** 每步最快可提升 42%，现也支持 T4 GPU
* **NVIDIA Cosmos3 Nano-FP8 + Edge-FP8** 视频模型现在可以加载
* **聊天中的计划任务** 可直接在该聊天中回复
* **全新的翻译页面** 提供语言标签、并排窗格以及文档/图片上传功能
* **QLoRA 训练** 速度最高提升 25%

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.920-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/get-started/install/amd/npu" class="button secondary">AMD NPU 指南</a>
{% endupdate %}

{% update date="2026-11-11" tags="new-releases,v0-1-917-beta" %}

## Dynamic v3.1 GGUF + 性能修复

我们推出了 [Qwen3.8-27B](https://unsloth.ai/docs/zh/mo-xing/qwen3.8.md) Dynamic V3.1 GGUF，可在 Unsloth 中本地运行。我们还带来了多项重大性能修复：长聊天中的流式输出、滚动、菜单和对话框都更快了，Glass 主题也更加流畅。此外还新增了经过改版的代码块和思考块、HTML/PDF 聊天导出、图像队列，以及在 MLX 上运行 Claude Code + Codex。

**亮点**

* **Qwen3.8-27B** 全新 Unsloth Dynamic V3.1 GGUF
* **重大性能修复** - 聊天内容增长时，流式输出不再变慢
* **更流畅的 Glass** 输入、滚动和生成时的卡顿大幅减少
* **代码块和思考块焕然一新** - 可展开、可独立滚动，语法高亮效果更好
* **HTML + PDF 导出** 可直接从聊天菜单导出
* **图像队列** - 一个图像正在生成时，可将其他图像生成任务加入队列
* **在 MLX 上运行 Claude Code + Codex** - 使用 MLX 模型运行编程代理，通过 `unsloth start`
* **FLUX.2 + FLUX.3** 以相同速度解码图像时，VRAM 使用量减少 36–43%
* **快 2–8 倍 `model.generate()`** 默认在 T4 GPU 上运行

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.917-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/ji-chu-zhi-shi/dynamic-3.0-ggufs.md" class="button secondary">Dynamic v3.1 GGUF</a><a href="https://unsloth.ai/docs/zh/mo-xing/qwen3.8.md" class="button primary">Qwen3.8-27B</a>
{% endupdate %}

{% update date="2026-11-06" tags="new-releases,v0-1-916-beta" %}

## Qwen3.8-Flash-Next Dynamic V3.1

我们推出了 [Qwen3.8-Flash-Next](https://unsloth.ai/docs/zh/mo-xing/qwen3.8-next.md) Dynamic V3.1 GGUF，准确率提升 10–15%，Token 用量减少 50%，速度提升 7%。我们还为 Unsloth 带来了一系列重大性能改进：长对话中的输入和搜索更快，图片/视频加载更快，支持双 GPU 生成图片/视频。此外，还新增了每个聊天独立的浏览器、悬浮浏览器窗口，以及可滚动的代码块和思考内容区。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FfbUDW8UyiD6Z7cq93Ydc%2FScreenshot_2026-11-02_at_14.41.10.webp?alt=media&amp;token=7be485c5-6f5b-4caf-a97a-7470bcb31f91" alt=""><figcaption></figcaption></figure>

#### 亮点

* **重大性能改进** 更多 Glass 主题优化将于下周推出
* **Glass 主题修复** 不再模糊，渲染效果更佳，选项更多
* **统一内存卸载** 现在可正常支持大型模型
* **每个聊天独立使用浏览器** - 多个聊天现在可以各自独立运行浏览器
* **思考内容和代码块焕然一新** - 现在采用可滚动容器，并限制了高度
* **悬浮浏览器** 可在聊天窗口上方移动和调整大小，让模型继续执行任务
* **双 GPU 图片和视频生成** 在匹配的 NVIDIA 显卡上最高可提速 2 倍
* **更快地搜索和删除聊天** - 搜索和删除聊天的速度大幅提升
* **Stable Diffusion 图片/视频模型加载** 最高快 40%

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.916-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/qwen3.8-next.md" class="button secondary">Dynamic V3.1 Qwen</a>
{% endupdate %}

{% update date="2026-10-30" tags="new-releases,v0-1-913-beta" %}

## Dynamic V3.1（预览版）+ 自定义 + 性能优化

使用自定义背景和改进后的 UI/UX，打造专属的 Unsloth。本次更新还缩短了应用更新耗时，并在 VRAM 有限时提升 Linux 应用和 Qwen-Image 的生成速度。另有新内容：Unsloth 中现已支持 DeepSeek-V4.1-Flash-1017 [Dynamic v3.1](https://unsloth.ai/docs/models/deepseek-v4.1-flash) GGUF（预览版）、适用于低内存设备的 FLUX.2-klein-9B、更流畅的聊天，以及批量 MoE 微调。

<img src="https://github.com/user-attachments/assets/a4c01069-da2f-4cf3-afee-d19499cfefc3" alt="" width="563">

#### 亮点

* **自定义背景** 个性化聊天界面（还可将输入框移至底部；更多自定义选项将于下周推出）
* **DeepSeek-V4.1-Flash-1017** 全新 Unsloth Dynamic v3.1 GGUF（预览版），在几乎所有基准测试中，同等规模下准确率最高 [博客](https://unsloth.ai/docs/models/deepseek-v4.1-flash)
* **新增 14 种语言** 支持 Unsloth
* **应用更新** 完成速度快一倍
* **Linux** 大幅减少卡顿，性能更出色
* **Qwen-Image** 在 16 GB VRAM 限制下，生成速度最高提升 2 倍
* **界面更新** 设计更统一，界面更简洁
* **MoE 微调** 可同时运行兼容的 API 任务

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.913-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/deepseek-v4.1-flash.md" class="button secondary">Dynamic V3.1 DeepSeek</a>
{% endupdate %}

{% update date="2026-10-28" tags="new-releases,v0-1-912-beta" %}

## 定时任务 + 优化 + 万圣节

DeepSeek-V4.1-Flash-1017 和 FLUX.3 Image Klein 现已推出！可在 Unsloth 中本地运行这两款模型。新增功能：在聊天中使用图像和视频、通过 FSDP2（alpha）进行多 GPU 训练，以及为编程代理一键设置 MCP。

#### 亮点

* **更快的 Unsloth**：首次启动速度提升 2 倍，工具调用、模型列表、数据集准备和 MiniMax-H3 加载速度也有所提升
* **定时任务**：按计划使用本地模型或 API 运行提示词
* **多 LoRA 批处理**：最多可同时训练 4 个兼容的排队微调任务
* **SGLang 思考模式 + 自动压缩上下文**：vLLM 和 SGLang 现在也支持恢复和 JSON 输出
* **浏览器使用开关**：允许模型通过浏览器的新标签页控制内置浏览器
* **MiniMax-M3.1-Flash**：MiniMax 的 428B MoE（23B 激活参数） [指南](https://unsloth.ai/docs/models/minimax-m3.1-flash)
* **不给糖就捣蛋**：🎃 11 款万圣节主题
* **FLUX 3 图像编辑**：FLUX 3 现已支持通过提示词编辑图像
* **性能优化**：Mac 性能大幅提升、延迟降低、二进制文件体积缩小
* **已保存的预设**：为每个模型将运行设置保存为命名预设

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.912-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/minimax-m3.1-flash.md" class="button secondary">MiniMax-M3.1-Flash</a><a href="https://unsloth.ai/docs/zh/mo-xing/nemotron-3.5-bolt.md" class="button secondary">NVIDIA Nemotron 3.5 4B</a>
{% endupdate %}

{% update date="2026-10-19" tags="new-releases,v0-1-909-beta" %}

## DeepSeek V4.1-Flash-1017 和 FLUX.3

DeepSeek-V4.1-Flash-1017 和 FLUX.3 Image Klein 现已推出！可在 Unsloth 中本地运行这两款模型。新增功能：在聊天中使用图像和视频、通过 FSDP2（alpha）进行多 GPU 训练，以及为编程代理一键设置 MCP。

#### 亮点

* **DeepSeek-V4.1-Flash-1017**：552B（16B 激活参数）——使用 1-bit 量化时约需 125 GB 内存，Engram 表存放在 SSD 上 [指南](https://unsloth.ai/docs/models/deepseek-v4.1-flash)
* **FLUX.3 Image Klein**：可在 24 GB 内存上运行，并支持使用最多 10 张参考图像进行编辑 [GGUF](https://huggingface.co/unsloth/flux-3-image-klein-GGUF)
* **一键设置 MCP**: `unsloth mcp add` 可将 Claude Code、Codex 或 Cursor 连接到 Unsloth。
* **在聊天中使用图像和视频**：本地聊天模型可使用与其一同加载的图像或视频模型。
* **Qwen-Image-Edit-2509 和 2511**：一次最多可编辑 3 张图像。
* **Token 预览**：在训练开始前查看模型将学习的内容。

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.909-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/deepseek-v4.1-flash.md" class="button secondary">DeepSeek-V4.1-Flash</a>
{% endupdate %}

{% update date="2026-10-15" tags="new-releases,v0-1-908-beta" %}

## NVIDIA Nemotron 3.5 + Meta Muse Spark Open

在 Unsloth 中本地运行 NVIDIA 全新的 Nemotron 3.5 模型和 Meta 全新的 Muse Spark Open。新增功能：文本扩散 LLM、DeepSpeed 训练，以及面向编程代理的改进版提示词缓存。

#### 亮点

* **NVIDIA Nemotron 3.5 Bolt**：可在 24 GB 内存上运行。 [指南](https://unsloth.ai/docs/models/nemotron-3.5-bolt)
* **NVIDIA Nemotron 3.5 Super VL**：120B（12B 激活参数） [指南](https://unsloth.ai/docs/models/nemotron-3.5-super-vl)
* **Meta Muse Spark Open**: 816B（激活参数 42.7B）- 可在 256GB 内存上运行 [指南](https://unsloth.ai/docs/models/muse-spark-open)
* **为编程智能体提供更好的提示缓存**: 在本地 GGUF 模型上运行 Claude Code、Codex 等时，可大幅减少对提示内容的重复处理。
* **浏览器使用**: “始终允许”功能正常运行，支持光标操作，并为每个聊天单独打开标签页。
* **通过你的连接生成图像**: 使用 sd-server、Ollama、Lemonade 和其他图像服务器生成图像。
* **扩散式 LLM**: 使用 LLaDA、Dream、SDAR 等进行训练和聊天，并配备实时去噪画布。

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.908-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/nemotron-3.5-bolt.md" class="button secondary">Nemotron 3.5 Bolt</a><a href="https://unsloth.ai/docs/zh/mo-xing/muse-spark-open.md" class="button secondary">Meta Muse Spark Open</a>
{% endupdate %}

{% update date="2026-10-12" tags="new-releases,v0-1-906-beta" %}

## 浏览器使用 + **Qwen-Image-2.1-Turbo**

现在，模型可以在 Unsloth 中使用浏览器了。开启“浏览器使用”后，模型便可打开网页、阅读内容、点击、输入和滚动，你还能实时观看操作过程。Qwen-Image-2.1-Turbo 也已上线，仅需 8 步即可生成图像。此外还包括：文本扩散 LLM 训练、更快的 MoE GGUF，以及 Mac 上的推测解码。

#### 亮点

* **浏览器使用。** 本地模型可操控 Unsloth 浏览器
* **Qwen-Image-2.1-Turbo**: 仅需 8 步即可生成图像（速度提升 2.5 倍）。 [查看指南](https://unsloth.ai/docs/models/qwen-image-2.1)
* **训练文本扩散 LLM** 例如 DiffusionGemma、LLaDA 和 Dream
* **MoE GGUF 速度最高提升 3 倍** 可运行比显存容量更大的模型
* **Mac 上的推测解码** MLX 回复速度最高提升 2.8 倍

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.906-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/qwen-image-2.1.md" class="button secondary">Qwen Image 2.1</a>
{% endupdate %}

{% update date="2026-10-08" tags="new-releases,v0-1-904-beta" %}

## 训练你自己的决策模型

在 Unsloth 中将任意文本或视觉 LLM 转换为 Jev 风格的决策模型，将决策准确率从 30% 提升至 80%。直接在 Unsloth 中训练、测试、导出和部署决策模型。此外还包括：原生支持 ComfyUI 模型、扩散功能改进，以及更出色的桌面版浏览器。

#### 亮点

* **将任意模型转换为 Jev 风格的决策模型。** 准确率从 30% 提升至 80%
* **加载 ComfyUI 扩散模型** 在 Unsloth 中原生运行
* **更快、更准确的扩散** 支持 INT8 ConvRot 等
* **更出色的桌面版浏览器** 修复了许多错误
* **沙盒隔离** Linux 使用 Bwrap，Mac 使用 Seatbelt，Windows 使用 MXC

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.904-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/ji-chu-zhi-shi/shi-yong-unsloth-xun-lian-ni-zi-ji-de-jue-ce-mo-xing.md" class="button secondary">决策模型指南</a>

{% embed url="<https://github.com/user-attachments/assets/92959172-d2a2-450b-a5bf-6369a1e5ae16>" %}
{% endupdate %}

{% update date="2026-10-07" tags="new-releases,v0-1-903-beta" %}

## EmbeddingGemma 2 + 浏览器

此版本在 Unsloth 中新增了内置浏览器（即将支持浏览器使用），文件、网页以及模型生成的页面都能以标签页形式在聊天旁边打开。此外还带来了 [EmbeddingGemma 2](https://unsloth.ai/docs/models/embeddinggemma-2)，这是 Google 全新的多模态嵌入模型；同时新增了音频页面，并降低了训练所需的内存。

#### 亮点

* **在聊天旁边打开浏览器** 文件、网页和模型生成的 HTML 均以标签页形式显示
* **EmbeddingGemma 2**: 运行并微调 Google 全新模型，支持文本、代码、图像、视频和音频 [指南](https://unsloth.ai/docs/models/embeddinggemma-2)
* **音频页面**：语音、克隆、音乐、转录、编辑、分离、转换，支持 70 多种 GGUF 模型
* **同时加载多个模型**，并支持 vLLM 和 SGLang 引擎（需选择启用）
* **沙盒** 用于运行模型生成的代码，现新增“设置”选项卡，并支持 Colab 和 Docker
* **实时预览** 用于图像和视频生成

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.903-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/embeddinggemma-2.md" class="button secondary">EmbeddingGemma 2</a>
{% endupdate %}

{% update date="2026-10-01" tags="new-releases,v0-1-902-beta" %}

## 命令面板 + 桌面端 UI/UX

此版本通过改进导航、支持分享运行设置、提供更清晰的错误信息、加快 Laya 决策速度、扩展 Decision API 支持，并改进 4 位 LoRA 训练，让 Unsloth Desktop 更快、更易用。

* **Cmd/Ctrl+P 命令面板** 以及可分享的 GGUF 运行设置。
* [**Laya 决策**](#laya-decision-models--library) **速度最高提升 4.1 倍** 并支持托管服务提供商。
* **更清晰的错误信息** 改进了加载/生成提示和日志。
* **更低内存占用的 4 位 LoRA 训练** 适用于 NVFP4、INT4 和 MXFP4 检查点。

#### 桌面端、聊天和模型

* 无需加载模型即可分享 GGUF 运行设置。
* 可在聊天中直接继续回复并修复 HTML canvas 错误。
* 改进了模型适配警告、图像加载和桌面端控件。
* 新增 `FastModel` 微调支持，涵盖 T5、T5Gemma、BART、Marian 等模型。
* 新增 `unsloth eval` 用于评估检查点和 LoRA 适配器。
* 改进了多 GPU 训练和生成支持。

#### 4 位检查点训练

预量化检查点现在使用原始打包权重进行训练，从而降低内存占用，同时保持准确率。

* Qwen3.8-27B-NVFP4 的峰值内存占用从 72.9 GB 降至 40.2 GB。
* INT4 检查点保持打包状态，不再重新量化。
* Kimi-K2.7-Code 和 gpt-oss 在 LoRA 训练期间保留打包的专家权重。

#### Decision API、图像和平台更新

* Laya 决策模型的响应速度最高提升 4.1 倍，并可通过 Connections 使用托管服务提供商。
* 图像模型在卸载期间保留 INT8/FP8 格式，从而加快生成速度。
* Qwen-Image-2.1 在 Radeon 8060S 上生成 1536×1536 图像的速度最高提升 3.6 倍。
* 新增对搭载 RX 5000–9000 系列 GPU 的 AMD Windows 系统的支持。
* 更新了 MLX 支持，并支持将 Mac LoRA 导出为 PEFT 或 GGUF 格式。

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.902-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/decision-laya.md" class="button secondary">Laya 决策模型指南</a>
{% endupdate %}

{% update date="2026-09-28" tags="new-releases,v0-1-901-beta" %}

## Laya 决策模型 + 库

我们正在新增对决策模型的支持、统一的文档和媒体库、文档查看器、多项 Apple Silicon 改进、技能创建功能，以及提速约 4.5 倍的图像和视频生成。

* 运行和部署 **决策模型** 例如 Laya（开源 Jev），可通过兼容 TypeSafe 的 API 在本地运行。
* **技能编辑器** 可直接在 Desktop 中创建、编辑和删除技能。
* **ModelScope** 现已支持模型下载，方便无法使用 Hugging Face 的用户
* **文档查看器** 支持 PDF、Word、Excel、PowerPoint 和聊天记录。
* 新增 **资料库**：通过全新的 **资料库** 标签页管理聊天、图像、视频和文件。
* **Apple Silicon 改进** 包括批量推理服务、结构化输出和 TurboQuant KV 缓存。
* 配置各 GPU 接收的模型份额。
* **更快的图像和视频生成** LTX-2.3 视频片段生成速度提升约 4.5 倍，VAE 解码速度提升 1.7–6.3 倍。

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.901-beta" class="button primary">完整发行说明</a><a href="https://unsloth.ai/docs/zh/mo-xing/decision-laya.md" class="button secondary">Laya 决策模型指南</a>
{% endupdate %}

{% update date="2026-09-22" tags="new-releases,v0-1-812-beta" %}

## Qwen-Image-2.1 + 技能

现在可以使用 Unsloth 在本地运行 Qwen-Image-2.1！此版本还支持自定义 Agent Skills，并让聊天和项目管理更轻松。此外，推理模块速度提升 2 倍（60 FPS，相比此前的 30 FPS），训练更加可靠，Linux 安装和更新也有所改进。

<a href="https://unsloth.ai/docs/zh/mo-xing/qwen-image-2.1.md" class="button primary">Qwen-Image-1.2 指南</a>

* **支持 Qwen-Image-2.1：** 使用 Unsloth 在本地运行 Qwen-Image-2.1 进行图像生成。
* **自定义 Agent Skills：** 添加针对特定任务的技能，复用 Claude Code 和 `.agents` 文件夹中的技能，并在聊天中选择这些技能，方法是使用 `@`.
* **更流畅的聊天体验：** 长推理模块现在以 60 FPS 渲染，较此前的 30 FPS 有所提升。还包括重新设计的思考界面、更流畅的代码流式输出，以及更可靠的模型加载和聊天设置。
* **更轻松地管理聊天和项目：** 在所有平台上拖动聊天即可重新排序、置顶或移入项目。可直接在“项目”页面编辑项目名称、说明和文件夹。
* **更出色的模型和存储管理：** 视觉模型现在可以查看 MCP 工具返回的图像。无需重复下载即可复用已下载的模型，还可在“设置”中检查或清除缓存。
* **训练和导出更加可靠：** 恢复之前的训练任务时，可准确估算剩余时间。修复改进了 Hugging Face 数据集配置、列映射以及划分/子集选择。上传到 Hub 时会排除之前导出遗留的文件。
* **改进 Linux 和 AMD 支持：** Debian 安装版现支持应用内更新；提供适用于 Ubuntu 24.04 及更高版本的原生 ARM64 安装程序，以及包含 Unsloth Studio 和 JupyterLab 的全新 AMD ROCm Docker 镜像。
  {% endupdate %}

{% update date="2026-09-17" tags="new-releases,v0-1-810-beta" %}

## Docker、多用户和 AMD 支持

我们发布了更新版 Docker 镜像，并带来多用户账户、RDNA1+2、FP8/INT8 扩散支持、ARM64 Windows CUDA 支持，以及多项训练、GRPO 和推理改进

#### 主要亮点：

* 更新后的 Docker 支持 NVIDIA 和 AMD： [指南](https://unsloth.ai/docs/get-started/install/docker)
* 支持相互隔离的多用户账户： **设置 > 账户**
* INT8/FP8 图像扩散推理：速度提升 2 倍
* 支持在 ARM64 Windows 上使用 CUDA 进行训练和推理
* GRPO：支持 Qwen3.5 和最新版本的 TRL/vLLM
* 支持 AMD RDNA1 和 RDNA2
* 改进 Windows NVIDIA GPU 检测和故障恢复

#### 更新后的 Docker 镜像

* 更新 CUDA 镜像和 Studio 设置，移除预装缓存，并在 GPU 主机上恢复 Unsloth 的训练补丁。
* Studio 数据保存在卷中，无需固定应用代码。改进了更新、生成密码、端口配置和软件包保留功能。
* 新增适用于受支持 Linux 主机的 AMD ROCm 镜像。

#### 多用户账户

* 在以下位置创建账户 **设置 > 账户** 使用一次性设置代码和独立密码。
* 账户可将工作彼此隔离；设置相同时，还能共享已加载的模型。单账户行为保持不变。

#### 聊天 + 推理

* 即使本地模型正在加载，也可以编辑、重新排序和调整排队中的提示词。
* 新增 GGUF 推理预算、可调聊天宽度、桌面缩放和紧凑型输入框。
* 改进了长时间推理时的响应速度、聊天记录保留，以及工具生成的文件和图像处理。

#### 硬件 + 推理

* MLX 新增视频输入、可选的 MoE 和解码优化，并提升了多模态聊天的可靠性。
* 改进了 GGUF 内存估算、DGX Spark 处理、NVIDIA 检测、NVLink 检查和用户选择的 GPU 排序。
* 新增原生 Windows ARM64 桌面端打包、Qwen3.5 `fast_inference`以及 Ascend NPU 检测。

#### 研究 + API

* Deep Research 更好地保留未完成的报告、处理 JSON 输出，并标记缺少证据的运行任务。扫描版 PDF 上传现在可使用本地 OCR 作为备用方案。
* 改进了提供商推理控制、MCP 兼容性、工具调用和流式错误报告。
* 新增 `/v1/chat/completions` 视频输入，以及通过 API 访问已安装的 Ollama 模型。

#### 训练 + 安装

* 新增 Data Recipes 数据集下载，并修复了 16 位微调导出、LoRA 保存和推送到 Hub 的问题。
* 改进了数据集处理、训练内存估算，以及容器关闭时的检查点保存。核心修复涵盖归一化、RoPE、Q-GALore 和分布式设备选择。
* 改进了 Windows 安装、GPU 软件包修复、依赖缓存和离线安装验证。

#### 安全 + 工具执行

* 加强了凭据保护和工具调用验证；访问沙盒外文件时需要提交审批请求。
* 在受支持的 Linux 和 macOS 主机上新增预览版操作系统级工具沙盒。网络访问仍不受限制；若操作系统隔离不可用，自动模式将沿用现有安全措施。

<a href="https://unsloth.ai/docs/zh/kuai-su-kai-shi/install/docker.md" class="button primary">Docker 指南</a>
{% endupdate %}

{% update date="2026-09-02" tags="new-releases,v0-1-806-beta" %}

## Qwen3.8-Flash + GLM-5.3，速度提升 2 倍

运行 [**Qwen3.8-Flash-Next**](https://unsloth.ai/docs/zh/mo-xing/qwen3.8-next.md) 和 [**GLM-5.3-Flash**](https://unsloth.ai/docs/zh/mo-xing/glm-5.3-flash.md) 最高可达 **快 2 倍** 得益于更快的解码和额外的 MTP，现已默认启用。本次版本还包含 **170 多项改进** 涵盖训练、聊天、硬件支持、API 和性能。

* 借助 MTP 加快 Qwen 和 GLM 的生成速度，并改进工具使用和 Qwen 推荐设置。
* 所有聊天的 UI/UX 卡顿显著减少，长对话尤为明显
* 新增对 **MiniMax-Music3、Higgs 和 MOSS** 音频模型的支持，包括进度跟踪和片段管理。
* 提升了本地服务器和已连接提供商的模型加载可靠性。
* 改进了聊天编辑的安全性，可保留工具调用、回复、媒体和对话分支。
* 改进了多 GPU 训练、内存适配、模型放置和 GGUF 导出。
* 增强了 AMD/ROCm 安装、检测和 GPU 兼容性。
* 提升了 MCP、Deep Research、OAuth、并行工具调用和智能体工作流的可靠性。
* 新增兼容 OpenAI 的 API，支持 **视频、音频和由 MLX 提供服务的模型**.
* 改进了桌面端更新、局域网端口控制、下载和 GPU 内存清理。

<a href="https://unsloth.ai/docs/zh/mo-xing/qwen3.8-next.md" class="button primary">Qwen3.8-Flash-Next</a><a href="https://unsloth.ai/docs/zh/mo-xing/glm-5.3-flash.md" class="button primary">GLM-5.3-Flash</a><a href="https://unsloth.ai/docs/zh/mo-xing/glm-5.3.md" class="button primary">GLM-5.3</a>
{% endupdate %}

{% update date="2026-08-27" tags="new-releases,v0-1-804-beta" %}

## Qwen3.8-Flash-Next + GLM-5.3

[Qwen3.8-Flash-Next](https://unsloth.ai/docs/zh/mo-xing/qwen3.8-next.md), [GLM-5.3-Flash](https://unsloth.ai/docs/zh/mo-xing/glm-5.3-flash.md) + [GLM-5.3](https://unsloth.ai/docs/zh/mo-xing/glm-5.3.md) 现在可以在 Unsloth 中本地运行！

* Qwen3.8-Flash 可在 75GB 内存上运行
* GLM-5.3-Flash 可在 102GB 内存 + 显存上运行
* 内存卸载速度最高提升 5 倍
* 重复自动压缩现在运行可靠
* 100 多项聊天、可靠性和性能改进

<a href="https://unsloth.ai/docs/zh/mo-xing/qwen3.8-next.md" class="button primary">Qwen3.8-Flash-Next</a><a href="https://unsloth.ai/docs/zh/mo-xing/glm-5.3-flash.md" class="button primary">GLM-5.3-Flash</a><a href="https://unsloth.ai/docs/zh/mo-xing/glm-5.3.md" class="button primary">GLM-5.3</a>

<div align="left"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F1YneA51oWzaIiwep9H5I%2F1000024423.gif?alt=media&amp;token=40a169cc-12f1-403a-898c-b310f81ff52a" alt="" width="375"><figcaption></figcaption></figure></div>

#### Qwen3.8-Flash-Next

125B 多模态推理模型，并提前预览 Qwen4 的架构。

* 1-bit Dynamic GGUF 可在 75GB 内存或统一内存上运行
* 文本和图像上下文长度最高可达 262K
* 推理模式：无、低、中和特高
* 保留思考过程可提升长对话的一致性

#### GLM-5.3-Flash

320B 多模态模型，拥有 18B 激活参数。

* 1-bit 模型可在 102GB 总内存 + 显存上运行
* 文本、图像和文档上下文长度最高可达 1M
* 推理模式：低、高和最高
* 提升了编程、智能体和视觉性能

#### Unsloth 改进

* 大型 GGUF 会自动分配到 GPU 和系统内存
* 加载前查看内存用量估算
* 断开连接后可恢复聊天
* 改进了多图像视觉能力和 MCP 图像支持
* 将聊天导出为 JSONL
* 改进了自动压缩控件
* 修复了 Linux、NVIDIA Wayland、AMD 和 Windows 相关问题

如需运行或训练这些新模型，可以下载 Unsloth Desktop：

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">下载 Unsloth Desktop</a>

* <i class="fa-apple">:apple:</i> [下载 macOS 版](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [下载 Windows 版](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [下载 Linux 版](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-20" tags="new-releases,v0-1-801-beta" %}

## 自动压缩 + 局域网访问

感谢大家上周对 Qwen3.8-27B 和 Unsloth Desktop 的支持！对于我们的 [新 `v0.1.801-beta` 版本](https://github.com/unslothai/unsloth/releases/tag/v0.1.801-beta)，我们合并了 200 多个 PR，带来了许多新功能和修复，包括：

* **自动压缩（实验性）** 支持超出上下文限制的长对话
* [**远程访问和局域网访问（预览版）**](https://unsloth.ai/docs/zh/ji-chu-zhi-shi/lan.md) 无需 Cloudflare 链接即可轻松进行网络访问
* **更快的聊天** - 提升流式传输性能、减少界面延迟，并让长对话更加流畅。
* 支持 **自定义 llama.cpp 构建版本**。Cache RAM、Mmap、Mlock、Checkpoints、Spe Decoding KV Cache、Vision 的开关
* [Unsloth Dynamic v3.0](https://unsloth.ai/docs/basics/dynamic-3.0-ggufs) 现已发布。与其他所有方案相比，全新的 Qwen3.8-27B Dynamic v3.0 GGUF 的 top-1 准确率高出 10% 以上。可与 Unsloth 搭配使用。

#### 自动压缩（实验性）

现在，长对话可以通过将较早的轮次移入可搜索存档来突破上下文限制。

* 仅在需要时才会移除较早的轮次，且这些内容仍可搜索。
* 全新的上下文周期有助于提升回忆能力，且不会永久截短对话。
* 采用检索而非摘要，以获得更高准确度。

#### 远程和局域网访问（预览版）

从网络中的其他设备访问 Unsloth。

* 新增远程访问设置。
* 局域网控制、二维码和自动启动选项。
* 出于安全考虑，默认禁用。

#### 聊天改进

* 长对话速度更快，线程处理也得到改进。
* 项目可整理聊天、文件和工作区。
* 新增提示词排队、快捷键、 `edit_file`以及更完善的工具支持。

#### 硬件、推理和 API

* 支持自定义 llama.cpp 构建版本和 Intel XPU。
* 提供更多推理控制选项（缓存、mmap、mlock、检查点、推测解码、视觉）。
* 改进了 GPU 验证、VRAM 管理和兼容性。
* Responses API 支持结构化输出。
* 改进了 llama-server 恢复机制。

要运行或训练 Qwen3.8，可以下载 Unsloth Desktop：

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">下载 Unsloth Desktop</a>

* <i class="fa-apple">:apple:</i> [下载 macOS 版](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [下载 Windows 版](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [下载 Linux 版](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-14" tags="new-releases,v0-1-800-beta" %}

## Qwen3.8

现在可以在 Unsloth 中本地运行 Qwen3.8-27B 和 Qwen3.8-2.4T！

借助 Unsloth Dynamic GGUF，可在 17GB RAM 的设备上运行。你也可以在 Unsloth 中微调 Qwen3.8-27B。Qwen3.8-27B 是同等规模中实力遥遥领先的模型。我们还上传了 NVFP4 量化版本。

<a href="https://unsloth.ai/docs/zh/mo-xing/qwen3.8.md" class="button primary">Qwen3.8 运行指南</a><a href="https://unsloth.ai/docs/zh/mo-xing/muse-glimmer/train.md" class="button secondary">微调 Muse Glimmer</a>

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSqxs6NjShWrLfRKhDy1m%2Fvolcano%202.gif?alt=media&amp;token=395274a0-b437-403a-8a01-8e8502f9d225" alt="" width="375"><figcaption></figcaption></figure>

Unsloth 的其他更新包括：

* 支持 Qwen3.8-27B + 允许传入额外的 llama-server 参数 + 自定义 VRAM 开关
* 外部提供商支持工具调用和工具，并支持使用 Codex 登录
* 快速 FP8 推理，MiniMax-H3 速度提升 10 倍（3 分钟，而非 30 分钟）
* GGUF 推理速度提升 10% + 已修复绕过权限的问题
* 已连接 [API 提供商](https://unsloth.ai/docs/zh/ji-cheng/connections.md) 可以使用自己的 Search，也可以使用 Unsloth Desktop 内置的 Search 和工具。工具结果会传回模型，以便模型继续执行多步骤任务。
* 使用 Codex 订阅登录，并在 Chat 中使用 Codex 工具。

要运行或训练 Qwen3.8，可以下载 Unsloth Desktop：

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">下载 Unsloth Desktop</a>

* <i class="fa-apple">:apple:</i> [下载 macOS 版](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [下载 Windows 版](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [下载 Linux 版](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-11" tags="new-releases,v0-1-70-beta" %}

## 隆重推出 Unsloth Desktop

隆重推出 Unsloth Desktop 🦥——首款可在本地运行和训练模型的桌面应用。\
开源，支持 Mac、Windows 和 Linux

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FyUdniXManojk20Q3M5Lf%2Fintroducing%20unsloth%20desktop%20thumb.png?alt=media&amp;token=5ecd2f25-b996-4749-8242-ffd21b080ae7" alt=""><figcaption></figcaption></figure>

• 支持 MLX、扩散图像/视频、音频和 GGUF\
• 将 Claude Code 和 Codex 连接到本地 LLM\
• 工具调用准确率提高 50%、支持自我修复 + 沙盒化代码执行\
• 适用于 CPU + 多 GPU 配置——NVIDIA、AMD、Intel、Mac\
• 训练模型速度提升 2 倍，VRAM 占用减少 70%\
• 私密网页搜索、深度研究、RAG、MCP + 导出（NVFP4、GGUF）\
• 使用 Unsloth 兼容 OpenAI 的 API 和云端模型\
• 安全部署远程 LLM，随时随地访问

现在即可下载 Unsloth Desktop：

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">下载 Unsloth Desktop</a>

* <i class="fa-apple">:apple:</i> [下载 macOS 版](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [下载 Windows 版](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [下载 Linux 版](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-10" tags="new-releases,v0-1-60-beta" %}

## Meta Muse Glimmer 来了！

Meta 发布了 Muse Glimmer，这是 Meta Superintelligence Labs 推出的首个开放模型。Muse Glimmer 是 Meta 开发的稠密型 30B 参数模型，专为本地智能体和编程工作流打造。该模型基于 Apache 2.0 许可证发布，可通过 Unsloth 和 Unsloth Dynamic 量化版本运行 Muse Glimmer 30B，以获得最佳性能。

<a href="https://unsloth.ai/docs/zh/mo-xing/muse-glimmer.md" class="button primary">运行 Muse Glimmer</a><a href="https://unsloth.ai/docs/zh/mo-xing/muse-glimmer/train.md" class="button secondary">微调 Muse Glimmer</a>

Muse Glimmer 30B 可在本地运行，适用于 **20GB RAM/VRAM** 的配置，包括 Mac 和 GPU。你也可以使用 Unsloth 在以下设备上训练和微调 Muse Glimmer 30B **20GB 显存**.

你可以通过 Unsloth Desktop 应用运行和微调 Muse Glimmer：

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">下载 Unsloth Desktop</a>

* <i class="fa-apple">:apple:</i> [下载 macOS 版](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [下载 Windows 版](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [下载 Linux 版](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-07-29" tags="new-releases,v0.1.51-beta" %}

## Kimi K3 + 深度研究 + 并行聊天

大家好！ [Kimi K3](https://unsloth.ai/docs/zh/mo-xing/kimi-k3.md) 现在可以通过 Unsloth Dynamic GGUFs 在本地运行。Unsloth 支持同时生成多个聊天，并且全新的深度研究模式可以使用你的本地模型来制定计划、阅读资料并引用来源。

此版本还改进了 [AMD](https://unsloth.ai/docs/zh/ji-chu-zhi-shi/amd.md) 和 Intel GPU 支持，新增 DoRA 训练，并修复了许多安装程序、MLX、导出和推理问题。

#### Kimi K3

Moonshot AI 的 **Kimi K3** 是一款拥有 2.8T 参数的 MoE 模型，激活参数为 104B，原生支持视觉，上下文窗口为 1M。Kimi K3 仅支持思考模式，Unsloth 支持低、高和最高推理力度。

你可以通过 Unsloth 运行我们的 [Kimi K3 Dynamic GGUFs](https://huggingface.co/unsloth/Kimi-K3-GGUF) 。Unsloth 会自动检测多 GPU 配置，并可将模型层卸载到系统内存。

Kimi K3 是一个非常大的模型，因此请相应地规划硬件配置：

* `UD-IQ1_S` 的磁盘占用为 595GB。
* `UD-Q4_K_XL` 的磁盘占用为 1.51TB。
* 如需无损推理，请使用 `UD-Q8_K_XL`，其磁盘占用为 1.56TB。

阅读完整的 [Kimi K3 指南](https://unsloth.ai/docs/models/kimi-k3) ，进一步了解 [Unsloth Dynamic 2.0 GGUFs](https://unsloth.ai/docs/basics/unsloth-dynamic-2.0-ggufs).

#### 并行聊天

Unsloth 现在可以同时运行多个对话。开始 **新聊天** 后，之前的回答会继续生成；每个活跃对话都有各自的进度指示器和“停止”控件。

* 默认提供 4 个 llama-server 槽位，可在 Web UI 中调整。
* 各聊天之间的工具、上传内容、自我修复功能和智能体彼此隔离。
* 停止一个聊天，不会中断其他聊天，也无需重启服务器。
* 内存有限时，Unsloth 会减少槽位数量。
* 重新加载模型时，确认后仍会停止活跃聊天。

#### 深度研究

深度研究可将本地模型转变为完整的研究工作流。提出问题后，它会制定计划、搜索网页、整理证据并生成附有引文的报告。

* 研究开始前，可以查看并编辑计划。
* 研究过程中，可以跟踪进度并查看已收集的来源。
* 可以继续或取消研究，而不会丢失已完成的内容。
* 允许或屏蔽网站，以控制来源选择。
* 来源和引文会与每次运行的结果一同保存。
* 撰写报告前，Unsloth 会检查缺乏支持的主张、矛盾和未解决的问题。没有直接证据支持的建议会标记为可检验的推断。

每个聊天只能同时运行一个研究任务。深度研究目前支持本地模型。可选的整页内容检索功能会在综合分析前，将搜索结果中的热门页面内容读取到临时 RAG 中；使用以下设置启用： `UNSLOTH_RESEARCH_AUTO_SCRAPE=1`。此功能默认关闭，因为它会增加抓取时间并需要额外的上下文。

#### 改进的 AMD 支持

此次更新在我们最初版本的基础上进一步改进 [AMD 发布与设置指南](https://unsloth.ai/docs/basics/amd) 支持更多 GPU，并让 ROCm 推理和训练更加可靠。

* 改进了对 RDNA2、Radeon、Ryzen、Strix Halo 和工作站 GPU 的检测。
* 在 Linux 上，MI50 和 Radeon VII 支持 16 位 LoRA 和全量微调。
* 修复了 4 位量化导致的 NaN、库冲突以及 RDNA 启动耗时过长的问题。
* 不受支持的 Windows HIP GPU 可回退到 Vulkan。
* Vulkan 设备现在会显示其真实名称，并且可逐个选择。
* 全新 Windows 安装不再需要 Winget 或开发者工具。

#### 训练、模型与平台更新

* Intel XPU 支持在 Intel Arc 和数据中心 GPU 上进行本地聊天与训练。
* 除 LoRA 和全量微调外，还可使用 DoRA。
* 大型导出现在可使用所有可见 GPU，避免受 GPU 0 的内存限制。
* MLX 新增流式数据集、继续预训练和回调功能，并改进了对 VLM 和 LoRA 的支持。
* 修复了不正确的 `flash_attention_2` 模型输出。
* Unsloth 和保存工具现在无需 bitsandbytes 也能正常工作。
* 修复了 `.json` 数据集以及 Qwen3.5/3.6 MoE 和 GRPO 笔记本的设置问题。
* 现在更容易找到并打开 Hub 下载文件夹。
* 可在 Unsloth 更新弹窗中查看发行说明。
* `unsloth start --as-subagent` 可让 Codex、Claude Code 和 Pi 将任务委派给本地 Unsloth 模型。
  {% endupdate %}

{% update date="2026-07-20" tags="new-releases,v0.1.50-beta" %}

## AMD 支持来了！

大家好！本次发布为 [AMD GPU](https://unsloth.ai/docs/zh/ji-chu-zhi-shi/amd.md) 带来了本地 LLM 训练与推理支持，适用于 Windows、WSL 和 Linux。

<a href="https://unsloth.ai/docs/zh/ji-chu-zhi-shi/amd.md#installing-unsloth-on-amd" class="button primary" data-icon="bolt">快速入门</a><a href="https://unsloth.ai/docs/zh/ji-chu-zhi-shi/amd.md#id-2x-faster-training-and-50-more-accurate-tool-calls" class="button secondary" data-icon="star">功能</a><a href="https://github.com/unslothai/unsloth" class="button secondary" data-icon="github">GitHub</a>

从今天起，借助我们与 AMD 的合作、定制 Triton 内核和数学算法，您可以在 AMD 的 Radeon、Instinct、Vulkan、Ryzen 和数据中心 GPU 上训练并运行 500 多种模型，速度最高提升 2 倍、显存占用减少 70%，且不损失准确率。经过优化的 ROCm 构建版本还支持 GGUF 和 Safetensors 推理。

<img src="https://github.com/user-attachments/assets/bb8bc525-9fb8-405d-98f5-6c9c07128085" alt="" width="375">

#### 7 月 23 日更新

1. 新增 **RDNA2、Gorgon Halo 和 Vulkan 支持** + 修复 AMD 安装程序无法检测 Strix Halo 等 AMD GPU 的问题
2. 改进 RDNA4 支持，并增强 HIP / ROCm 故障的自动修复与检测能力
3. **统一内存速度提升 2 倍** 支持 AMD Safetensors 加载，并大幅加快统一内存设备上的梯度检查点处理
4. 新增 **语音听写 / whisper.cpp** 初步支持快速文本转语音
5. 修复安装过程中回滚环境占用 5GB 磁盘空间的问题；现在会自动清理

#### 在 AMD 上本地训练 LLM

* 在 AMD GPU 上本地训练、运行 RL、与模型聊天并部署模型。
* 改进了 Windows、WSL 和 Linux 上 AMD GPU 的检测与安装可靠性。
* 改进了对 AMD MI300X 和 MI325X GPU 的 ROCm 兼容性。
* 通过以下方式远程访问 Unsloth： `unsloth studio --secure` 通过 Cloudflare 免费使用 HTTPS

#### 在你的硬件上运行更大的模型

* 使用自动 GPU 分配，或精确选择要使用的 GPU 和模型层。
* 将 MoE 专家层移入系统内存，帮助更大的模型适配你的硬件。
* 将模型拆分到多个 GPU 上，或使用张量并行。
* 为每个模型和量化版本单独保存硬件设置。

#### 更快地恢复聊天，更可靠地下载

* 模型闲置后释放 VRAM 时，无需重建完整对话即可继续长聊天。
* 卡住的 Hugging Face XET 下载会自动通过标准 HTTP 重试。
* 加载模型时会复用已有的 GGUF 文件，而不是重新下载。

#### 更出色的搜索、工具和智能体

* 网页搜索现在可以读取 PDF 论文、手册及其他 PDF 搜索结果。
* 并行工具调用、推理输出和工具重试现在更加可靠。
* 新增的可选 MCP 端点允许兼容的 AI 客户端检查模型和训练历史、启动或停止训练、加载检查点、验证配方并导出 GGUF。
  * 通过以下设置启用： `UNSLOTH_STUDIO_ENABLE_MCP=1` 并通过以下设置指定所需的 bearer 令牌： `UNSLOTH_STUDIO_MCP_TOKEN`.

#### 训练与导出修复

* 使用多模态模型进行纯文本训练时，打包前不再截断较长的样例。
* 微调后的 Qwen3.5 和 Qwen3.6 MTP 模型现在可以正确导出为 GGUF。
* 修复了 Windows 权限错误，该错误可能会在最后写入阶段导致 GGUF 导出中止。

#### 回顾一下近期更新

我们此前发布的 Studio 版本新增了 Dynamic NVFP4 模型、更深入的个性化设置、七种新的显示语言、更安全的智能体，以及 Vulkan GPU 加速。

**Dynamic NVFP4：**

Unsloth Dynamic NVFP4 会让对准确性敏感的层保持 FP8 或 BF16，同时其余部分以 W4A4 运行。在 NVIDIA Blackwell GPU 上，这能实现最高 2.5 倍的推理加速；经过校准的 FP8 KV 缓存则可将上下文长度延长至最高 2 倍。

阅读 [Dynamic NVFP4 指南](https://unsloth.ai/docs/basics/nvfp4) 并探索我们扩充后的 [NVFP4 模型合集](https://huggingface.co/collections/unsloth/nvfp4)，其中包括 Qwen3.6、Qwen3.5、Inkling、GLM-4.7 Flash 和 Gemma 4。

**个性化你的 Studio：**

可从 Standard、Classic 和 Minimal 三种配色方案中选择，每种方案都提供浅色和深色模式。你还可以自定义颜色、导入字体，并调整字号、对比度、减少动态效果等设置。

Unsloth 还新增了语音设置选项卡，可配置听写、自定义词典和朗读功能。

**新增语言：**

Unsloth Studio 现已支持法语、德语、西班牙语、印地语、阿拉伯语、俄语和韩语，以及简体中文、日语和巴西葡萄牙语。浏览器语言自动检测现已设为默认选项。

**更安全的智能体：**

四级工具调用权限选项——**询问**, **代我批准**, **关闭** 和 **完全访问**——让你能更精细地控制智能体。隔离智能体工作区并采用更安全的安装程序检查，也能降低意外更改的风险。
{% endupdate %}

{% update date="2026-07-15" tags="new-releases,v0.1.49-beta" %}

## 个性化设置、NVFP4 和语言

大家好，Unsloth 又有很多新更新，尤其是自定义功能。现在你可以按自己的喜好个性化 Unsloth：三种配色方案、自定义颜色和字体、七种新的显示语言，以及支持听写和朗读的语音设置选项卡。智能体也更安全了：新增四级工具调用权限选项（询问、代我批准、关闭、完全访问）和工作区隔离；Intel GPU 终于也能通过全新的 Vulkan `llama.cpp` 支持实现 GPU 加速推理。

我们还新增了对 [Inkling](https://unsloth.ai/docs/models/inkling)的原生支持。这是一款拥有 9750 亿参数、其中 410 亿参数处于激活状态的开放模型，上下文窗口最长可达 100 万个 token。该模型采用 Apache 2.0 许可证，支持输入文本、图像和音频，并生成文本。

#### 动态 NVFP4

我们扩充了 [NVFP4 模型系列](https://huggingface.co/collections/unsloth/nvfp4) ，新增了 Qwen3.6、Qwen3.5、Inkling、GLM-4.7 Flash 和 Gemma 4 的量化版本。

详情请阅读 [动态 NVFP4 指南](https://unsloth.ai/docs/basics/nvfp4) 。

个性化定制你的 Unsloth

Unsloth 不再局限于浅色和深色模式：

* 可从以下配色方案中选择： **标准**, **经典**和 **极简** 配色，每种都提供浅色和深色版本。
* 自定义强调色、背景色和前景色。
* 导入自己的界面、标题、聊天和代码字体。
* 调整字体大小、对比度、动态效果、光标行为和字体平滑度。
* 搜索设置，并在设备间同步偏好设置。

浅色和深色模式分别保留各自的自定义设置。

#### 新增七种语言

Unsloth 现在支持法语、德语、西班牙语、印地语、阿拉伯语、俄语和韩语，以及中文、日语和葡萄牙语。现在默认根据浏览器语言自动检测。

#### 语音设置

新增的“语音”选项卡提供听写、发音词典和朗读控制功能。语音转文字和文字转语音支持即将推出；完整的语音对话功能仍在开发中。

#### 更安全的智能体和工具调用

旧版绕过开关现已改为四级权限选择器：

* **询问：** 每次工具调用都需批准。
* **由我批准：** 自动执行只读操作，并在可能不安全的操作前暂停。
* **关闭：** 禁用工具调用。
* **完全访问：** 允许所有调用并禁用沙盒。

这些控制适用于终端、Python、网页搜索、RAG 和 MCP 工具。智能体还支持隔离工作区、可通过 `--persist`恢复的会话、更安全的远程安装器警告、实时工具输出流，以及改进后的网页内容提取。

#### Vulkan 和 `llama.cpp`

全新的 Vulkan `llama.cpp` 后端可让 Intel GPU 使用 GPU 加速推理，而不再退回到 CPU。它支持现有的显存管理、自动上下文大小调整、多 GPU 选择和层卸载。

AMD 用户可通过以下设置启用：

```bash
UNSLOTH_FORCE_VULKAN=1
```

我们还提升了更新可靠性和模型状态恢复能力，并改进了中断卡住的生成任务的功能。

#### 模型与训练

此版本还包括：

* 原生支持 Inkling，并改进多 GPU B200 支持。
* DeepSeek-V4 的 eager attention，以及可训练的 FP8 分组专家。
* 通过自动检测聊天模板标记，实现可靠的仅补全训练。
* 正确处理已禁用的梯度检查点功能。
* 改进 RoPE 缩放和上下文扩展。
* 可强制停止卡住的训练任务。
* 为新模型架构和较新版本的 Transformers 自动路由。
  {% endupdate %}

{% update date="2026-07-07" tags="new-releases,v0.1.48-beta" %}

## DeepSeek-V4 + NVFP4

Unsloth 现在支持在训练后导出 NVFP4、FP8 和 imatrix GGUF；可用作 llama-swap API 系统；新增日语和巴西葡萄牙语支持；并包含 MLX、safetensors、工具调用、修复功能等。Unsloth 核心使 GRPO 提速 1.3 倍，新增卡住下载时的 HTTP 回退机制，改进离线模式，将 MoE 训练提速 3–5 倍，并修复了许多错误。本系列版本使用 `unsloth>=2026.7.1`.

[DeepSeek-V4-Flash](https://unsloth.ai/docs/zh/mo-xing/deepseek-v4.md) 现已支持思考开关，并修复了我们改进版聊天模板中的问题。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FChQx2DGoDLyhf7mp8G2d%2Fdeepseek%20v4%20flashhh.png?alt=media&amp;token=a84f2fbc-8ab0-44cf-a3a8-0bdaaf80a2a7" alt="" width="375"><figcaption></figcaption></figure></div>

#### 更智能的 OpenAI 兼容 API 服务

运行一个本地 API 端点，享受更安全的模型切换和更完善的智能体工具恢复能力。

* API 请求可选择在已下载的本地 GGUF 模型之间自动切换；对于未知的模型名称，则会安全地继续使用当前模型。
* `/v1/models` 现在会返回简洁的模型 ID 和本地 GGUF 目录，而不是本地 `.gguf` 路径。
* 闲置时自动卸载模型可释放 VRAM；工具调用修复功能现在也可按请求控制。

#### 导出改进

导出更加灵活，并可避免不必要的下载。

* 可一次选择多种导出格式，包括便携式 FP8/INT8、GGUF LoRA、与源格式匹配的导出、imatrix GGUF 以及压缩 FP8/FP4。
* 多检查点导出可减少重复下载基础模型的情况。
* FP8、INT8 和 GGUF-LoRA 导出现在会遵循 `trust_remote_code`设置；GGUF 导出对缺失量化设置的处理也更加可靠。

#### RAG 和文件聊天

文件聊天处理实际文档时更加实用。

* RAG 附件现在可使用全文档上下文，并支持自定义嵌入模型和 Hugging Face 搜索。
* 文件聊天现在能更准确地读取更多 PDF 和 Word 文档，包括从右到左的文本、印度文字和 DOCX 表格。
* 在代理配置下，本地 RAG 检查更加可靠。

#### Unsloth 易用性与可靠性优化

日常使用将更加顺畅、稳定。

* 长时间运行的训练和聊天任务不易再无声卡死。
* 比较模式、模型切换、模型取消、Hub 浏览和 Hub 发现功能更加可靠。
* 项目导出、聊天导出、设置、引导式导览、文件对话框、更新界面和推理 UI 更简洁、更一致。

#### 安装程序、硬件和平台修复

Unsloth 在各个平台上的安装和运行都更加可靠。

* 如果已有预编译的 `llama.cpp` ，macOS 安装将不再需要 CMake 或 Homebrew；Apple Silicon 支持对含空格的路径和统一内存容量的处理也有所改进。
* 改进了 Windows 启动、UTF-8 处理、ROCm RAG 嵌入以及 WSL 上的 ROCm GPU 支持。
* Blackwell GPU 预编译版本选择、GGUF 适配检查、视觉模型/mmproj GGUF 的张量并行，以及本地 `llama.cpp` 复用现在都更加可靠。

#### 训练、模型与内核

训练和模型加载在更多配置环境下都更加可靠。

* GRPO 现在默认支持序列打包，避免重复处理共享提示词，并能正确处理 DDP logit 缩放。
* 修复了全量微调、RL 精度设置、梯度检查点、DDP RoPE 缓冲区和 MoE LoRA 检测相关问题。
* 改进了 FP8 量化/反量化、Transformers v5 下的 Llama 3 RoPE 缩放、PEFT 0.19 LoRA 重新加载，以及 `fast_generate` 错误消息。
  {% endupdate %}

{% update date="2026-06-18" tags="new-releases,v0.1.47-beta" %}

## GLM 5.2 + Hub + 3 倍超长上下文

[GLM-5.2](https://unsloth.ai/docs/zh/mo-xing/glm-5.2.md) 现已在 Unsloth Studio 中获得支持！支持所有推理级别。 **上下文长度提升至 3 倍** 借助全新的自动适配算法和 MTP，现在可以实现更长的上下文，从而支持更长的对话。还新增了绕过权限模式、可分叉和可排队的对话、用于发现模型的全新 Hub、并行模块、HTTPS Cloudflare 支持等！使用 `unsloth studio --secure` 即可安全地通过 HTTPS 进行全球访问！

<div data-with-frame="true"><img src="https://github.com/user-attachments/assets/93c18616-415f-48ea-957d-9e0fa97a45dd" alt="" width="563"></div>

#### 更出色的上下文长度算法

根据 [PR 1](https://github.com/unslothai/unsloth/pull/6312) 和 [PR 2](https://github.com/unslothai/unsloth/pull/6447)，我们大幅改进了 Unsloth Studio 对内存用量和上下文长度的计算，整体上下文长度提升至原来的 3 倍：

| 场景                      | KV    | 之前      | 之后      |
| ----------------------- | ----- | ------- | ------- |
| 1x 32GB 流水线（约 31 GB 可用） | f16   | 23,040  | 64,000  |
|                         | q8\_0 | 43,520  | 114,944 |
|                         | q4\_0 | 82,432  | 199,680 |
| 2x 32GB 流水线             | 任意    | 262,144 | 262,144 |
| 2x 24GB 张量（约 23 GB 可用）  | f16   | 134,049 | 262,144 |
|                         | q8\_0 | 252,329 | 262,144 |

#### 聊天画布、分叉与排队

* 可直接编辑助手消息，并从对话线程中的任意位置重新运行。
* 分叉对话线程以创建新的对话分支，同时保留原始对话。
* 临时（隐身）聊天，不会留下任何记录。
* 生成仍在进行时即可排队提交新提示，无需等待。
* 聊天“工件”现在会以 **画布**形式呈现，并支持内嵌 **HTML 画布卡片** （可自动渲染）、代码视图；DiffusionGemma 也会在内嵌区域显示原始代码，不再将其折叠。
* 聊天搜索现在会涵盖所有消息，并优先显示你自己发送的消息。

#### Hub（重新设计）

* 全页面 Hub，提供热门动态流、搜索和自定义模型路径支持。
* 在分屏动态流中预览 README，下载前即可阅读。
* 下载默认使用更快的 **Xet** 传输方式；如果传输停滞，则自动回退到 HTTP。
* 新增“选择时加载”开关，可在模型加载前设置加载选项。
* DiffusionGemma 及未来的 Gemma 衍生模型现在会显示 Google 标志。

#### 模型与推理

* DeepSeek-OCR 和更多视觉模型现在可正常加载和运行，不再报错。
* 修复了最新版本 vLLM（0.22+）上的快速推理功能，速度提升现已恢复正常。
* 张量并行现在更加可靠：如果更快的 MTP 路径失败，系统会自动恢复，而不是崩溃。
* DiffusionGemma 现在会实时显示图像的去噪生成过程，并提供准确的速度统计。

#### 安全性与 Cloudflare 加密工作室

* 新增 `--secure` 适用于端到端加密工作室的仅 Cloudflare 模式；服务器端工具仍会在 `--secure`下保持启用。使用 `unsloth studio --secure`!
* 需要时，可启用“绕过权限”模式以跳过确认并禁用工具沙箱。
* 自动检测 Hugging Face 病毒扫描结果以及仓库中的危险文件。

#### 日志与 API

* 新增 **Unsloth 中的 API 服务器监控** 。
* API 调用更快、延迟更低
* 日志经过大幅精简和优化，现在包含吞吐量与延迟信息，并移除了大量冗余日志。

#### 硬件与后端

* 更好地支持 Blackwell RTX 50X 和 60X GPU
* 修复静默降级到 CPU 而非 GPU 的问题
* 现在会根据已安装的 torch 选择 torchao 版本。
* 安装程序现在会自动修复损坏或仅支持 CPU 的 PyTorch 安装，并在静默回退到 CPU 时发出警告；适用于 NVIDIA 和 AMD，以及 Win/Linux/Mac/WSL。
* 开始训练时释放聊天模型占用的显存，但仅在 GPU 显存确实紧张时才会释放（否则不会进行不必要的重新加载）。
* 如果 llama-server 在启动时发生严重崩溃，Unsloth 现在会逐步尝试恢复，而不是直接失败。

#### 训练、通用修复与并行模块

* MLX 训练更新。
* 提升了使用 vLLM 进行 GRPO 训练的可靠性。
* 提升了训练启动的可靠性，并针对无效 VLM 批次提供了更清晰的错误信息。
* Unsloth 现在能在崩溃、重启或中断关机后，更可靠地清理遗留的后端进程。
* 导出、聊天、训练和配方现在都彼此独立、各自隔离！这意味着现在可以并行进行这四项操作！等待训练运行或导出时，仍可聊天或进行推理！

要更新 Unsloth 或安装新版 Unsloth Studio，必须使用：

**macOS、Linux、WSL：**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows：**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% endupdate %}

{% update date="2026-06-12" tags="new-releases,v0.1464-beta" %}

## DiffusionGemma + Gemma 4 MTP

请确保安装最新版本 [`v0.1.464-beta`](https://github.com/unslothai/unsloth/tree/v0.1.462-beta) 或 `2026.6.7`. [DiffusionGemma](https://unsloth.ai/docs/models/diffusiongemma), [Gemma 4 MTP](https://unsloth.ai/docs/models/mtp) 以及 [**MiniMax-M3**](https://unsloth.ai/docs/models/minimax-m3) 现在都已支持。

* 运行和训练 [DiffusionGemma](https://unsloth.ai/docs/models/diffusiongemma) 可通过 [Unsloth Studio](https://unsloth.ai/docs/new/studio).
* [Gemma 4 MTP](https://unsloth.ai/docs/models/mtp) 现已推出！运行 [Gemma 4](https://unsloth.ai/docs/models/gemma-4) 借助 MTP，速度约提升 2 倍。
* 现在支持 Gemma 4 的音频聊天（`wav`, `mp3`, `m4a`, `flac`, `webm`).
* 为 Gemma 4 添加了 Preserve Think。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fszoidwwj70dLm5vBjpmL%2Fdiffusiongemma.gif?alt=media&amp;token=8ce359fd-f92c-4cf8-a491-06b04c505cb7" alt="" width="375"><figcaption></figcaption></figure>

#### Hub + 下载管理器（实验性）

* 新增了一个 **Hub** 页面，可用于浏览、下载和管理 Hugging Face 模型及数据集。
* Unsloth 现在可以检测设备上已有的模型和数据集，并将它们与已下载的资源一同显示。
* 已下载的 [GGUF 模型](https://unsloth.ai/docs/basics/inference-and-deployment/saving-to-gguf) 现在可以直接执行 **运行 / 新建聊天** 操作。

#### RAG / 与文件聊天（实验性）

* 新增了 [**与文件聊天**](https://unsloth.ai/docs/new/studio/chat) 功能，可在 Unsloth 中针对自己的文档和知识库提问。
* 支持混合搜索、引用、PDF 预览、按对话线程管理文档，以及内置的 `search_knowledge_base` 工具。

#### 新增更新按钮和硬件支持

* Unsloth 现在会持续使用最新的 [llama.cpp 预编译版本](https://unsloth.ai/docs/new/changelog) 支持 CUDA、ROCm、Windows、Linux 和 macOS。
* 新增了应用内 **更新 llama.cpp** 按钮，用户无需重新安装 Unsloth 即可更新本地后端。
* 改进了 Windows / WSL 上对 AMD 的支持， [支持 Strix Halo ROCm](https://unsloth.ai/docs/get-started/install/amd), [支持选择 Blackwell CUDA](https://unsloth.ai/docs/blog/fine-tuning-llms-with-blackwell-rtx-50-series-and-unsloth)，并优化了安装程序的提示信息。

#### 本地聊天、工具和 API 兼容性

* 本地 [工具调用](https://unsloth.ai/docs/basics/tool-calling-guide-for-local-llms) 更加可靠，改进了工具卡片的排序，减少了重复的工具调用循环，并支持在 GGUF 视觉模型中使用工具。
* 改进了 [兼容 OpenAI 的 API](https://unsloth.ai/docs/basics/inference-and-deployment/llama-server-and-openai-endpoint) 以及本地 Unsloth 服务器对兼容 Anthropic 的 API 的支持，包括更完善的错误信息、令牌用量、停止原因，以及 [与 Claude Code 的兼容性](https://unsloth.ai/docs/basics/claude-code).

#### 训练与修复

* 改进了 [对 MLX 的支持](https://unsloth.ai/docs/new/studio/install) ，优化了模型标签和生成速度统计，并修复了 [VLM 训练](https://unsloth.ai/docs/basics/vision-fine-tuning).
* 修复了若干 [训练](https://unsloth.ai/docs/get-started/fine-tuning-llms-guide) 和 [数据集](https://unsloth.ai/docs/get-started/fine-tuning-llms-guide/datasets-guide) 边缘情况，包括 Hugging Face 缓存不可写以及自定义数据集映射的问题。
* 修复了聊天、菜单、模型选择器、深色模式、导入/导出和设置中的多项界面细节问题。

要更新 Unsloth 或安装新版 Unsloth Studio，必须使用：

**macOS、Linux、WSL：**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows：**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% endupdate %}

{% update date="2026-06-03" tags="new-releases,v0.1.44-beta" %}

## Gemma 4 12B、新界面、MCP、项目

本次更新主要聚焦于 Gemma 4 12B、MCP、项目、Canvas、CUDA 13.3 和全新的聊天界面。下周我们将带来更大规模的更新。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FoRn2YEPb9lJ81kP3GQQh%2Fwhats%20on%20ur%20mind.png?alt=media&amp;token=f388e42a-bb05-4a09-9cbf-ec699a6baf6b" alt="" width="375"><figcaption></figcaption></figure></div>

#### Gemma 4 12B

Google 发布了 [Gemma 4 12B](https://unsloth.ai/docs/models/gemma-4)，这是一款可在 8GB 内存设备上本地运行的新模型。 [GGUF](https://huggingface.co/unsloth/gemma-4-12b-it-GGUF) / [指南](https://unsloth.ai/docs/models/gemma-4)

Gemma 4 12B Unified 支持图像、音频和 256K 上下文。通过 Unsloth Studio 运行和训练该模型。

#### MCP

* 远程 `MCP` 服务器支持，包括自定义标头和 OAuth
* 本地命令式 `MCP` 服务器支持
* `MCP` 现在可以在聊天输入框中启用
* 常见 `MCP` 服务器的内置预设

#### 全新聊天界面

* 项目、Canvas、 `MCP`、RAG 和比较功能现已移至加号菜单
* 可在聊天输入框中更方便地访问搜索和代码功能
* Unsloth 各处的菜单、浮层、图标和可点击控件现在更加统一

#### 项目

* 将相关聊天整理到专属项目工作区中
* 将现有聊天移入项目
* 直接从侧边栏创建和管理项目

#### 实验性 Canvas / Artifacts

* 在 Unsloth Studio 内的专用 Canvas 面板中打开生成的 HTML
* 支持交互式输出，包括基于浏览器的可视化内容和通过 CDN 加载的程序包
* 可在渲染预览和源代码之间切换

#### 安装、运行时和硬件

* Windows 预编译安装不再需要提前进行 `CUDA Toolkit` 检查
* Linux `llama.cpp` 预编译版本现在会与检测到的运行时相匹配 `cudart` 大版本
* `ROCm` gfx 检测结果会传递至预编译版本选择流程
* `Blackwell`, `B300` 和 `ARM64` Linux 支持更新

要更新 Unsloth 或安装新版 Unsloth Studio，必须使用：

**macOS、Linux、WSL：**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows：**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% hint style="warning" %}
**请勿使用 `unsloth studio update` 了，因为打包版本不会获得最新更新！**
{% endhint %}
{% endupdate %}

{% update date="2026-05-31" tags="new-releases,v0.1.43-beta" %}

## CUDA 13.3、Windows、Mac

**要更新 Unsloth 或安装新版 Unsloth Studio，必须使用：**

**macOS、Linux、WSL：**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows：**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% hint style="warning" %}
**请勿使用 `unsloth studio update` 了，因为打包版本不会获得最新更新！**
{% endhint %}

#### Mac 更新

* 已重新启用 `llama.cpp` 适用于 Apple Silicon（M1-M4）的预编译二进制文件——Mac OS 14 / 15 / 26 (Tahoe)
* Apple Silicon 的 Mac OS 13 (Ventura) 需从源代码构建
* Mac OS 13.3 / 14 / 15 / 26 (Tahoe) 的 Intel (x86\_64) 版本使用 `llama.cpp` 预编译二进制文件
* Intel 版 Mac OS 13.0 - 13.2 需从源代码构建

#### Windows 更新

* CUDA 13.3 `llama.cpp` 预编译二进制文件现已可在 Windows 上正常运行
* 对于 CUDA 13.2、CUDA 13.1 及更低版本，Windows 设备会回退到 CUDA 12.4——我们很快会着手构建 CUDA 13.1 二进制文件。

#### CUDA 13.3 更新

* CUDA 13.3 的非 Linux 二进制文件已可运行。目前我们仍将使用 CUDA 13.1
* CUDA 13.3 解决了 CUDA 13.2 的乱码问题——请参阅 <https://github.com/unslothai/unsloth/issues/4849>

#### Blackwell GPU 更新

* 目前，Blackwell 的 `llama.cpp` 预编译二进制文件将延迟发布，因为 CUDA 12.4 无法正常运行——我们正在努力尽快解决这个问题。
  {% endupdate %}

{% update date="2026-05-26" tags="new-releases,v0.1.42-beta" %}

## Revamp 前的一次更新。

大家好，在即将进行一次重大改版之前，我们还会再发布一次左右的更新。改版很可能会在本周或下周推出。届时将有许多变化，尤其是新增多项重要功能，并对设计进行大量调整。

{% embed url="<https://github.com/user-attachments/assets/70456395-e016-4273-8256-35adb206267e>" %}

* 新增： [**支持 API 调用**](https://unsloth.ai/docs/integrations/connections) 现已支持图像生成与编辑、完善的网页搜索、代码执行和自动提示缓存。可连接 [OpenAI](https://unsloth.ai/docs/integrations/connections/openai), [Anthropic](https://unsloth.ai/docs/integrations/connections/anthropic-claude) 等服务。
* 完善支持 **非英语语言** 例如日语、中文、印度语等。

你们中可能有不少人错过了我们上一次的发布，因为它只持续了一天。我们当时推出了：

* 连接外部推理后端： [vLLM](https://unsloth.ai/docs/integrations/connections/vllm), [Ollama](https://unsloth.ai/docs/integrations/connections/ollama), [llama-server](https://unsloth.ai/docs/integrations/connections/connect-llama.cpp-to-unsloth-run-ggufs-with-llama-server)
* **安全性改进**
* **自动 MTP 推测解码** 适用于 MTP GGUF；根据你的硬件定制最佳设置。

#### API 提供商调用与外部连接

* 现在，你可以将 Unsloth 连接到任何云 API 提供商（OpenAI、Anthropic、OpenRouter 等）。
* **内置网页搜索** 支持 OpenAI、Anthropic、OpenRouter 和 Kimi
* **内置代码执行** 适用于 OpenAI 和 Anthropic（Anthropic 容器会跨轮次持久保存并重复使用）
* 已为 OpenAI 和 Anthropic 模型启用提示缓存，可节省 50% 到 90% 的成本。
* 图像生成与编辑
* 本地提供商（llama.cpp / vLLM / Ollama）现在无需 API 密钥
* 添加云提供商时自动加载模型

#### Unsloth Studio 的其他更新

* 支持在聊天中附加 OpenDocument 文档
* o3 推理摘要负载
* 发送非英语内容或使用非英语语言（例如日语、中文）编写提示词现在可以正常使用
* 改进输入法编辑器稳定性，支持 RTL `dir="auto"`，修复长日志行截断问题
* 在界面中渲染工具推理轨迹
* 全面支持离线使用：发现缓存的 GGUF，并为推理和训练自动检测离线 DNS

#### Unsloth Studio 安全性改进

* 身份验证速率限制支持代理感知，防止反向代理绕过限制
* 收紧了阻止列表的沙盒工作进程（bash、 `hf upload`, `NOFILE`)
* 限制路径范围，防止工作进程逃出其正在使用的临时目录
* 在整个 Unsloth API 中严格验证架构
* 收紧 CSP / 安全标头（仅允许合法的 favicon 主机）
* 移除了 `torch.load` 在 `training_args.bin` 上的回退机制，确保加载模型时不可信的 pickle 永远无法执行
* 强化了 Tauri 桌面版的发布流程
* 前端身份验证：采用 singleflight 刷新令牌，更改时要求输入当前密码，修复登出功能，并共享 422 错误处理程序
* 取消操作的清理现在严格限定在正在使用的临时目录内，绝不会删除用户数据
  {% endupdate %}

{% update date="2026-05-19" tags="new-releases,v0.1.41-beta" %}

## MTP 和 Unsloth 修复

Unsloth 新增了大量错误修复以及 UI、UX 改进！运行以下命令即可获取最新更新：

**macOS、Linux、WSL：**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows：**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

#### 修复

1. 修复 `unsloth studio update` 运行异常
2. 修复卡在 `reset-password` 页面的问题
3. 进一步改进离线模式支持
4. 优化 MTP 在 Mac、CPU 和 GPU 上的速度表现——现在快多了！
5. 修复更新后桌面快捷方式无法使用的问题
6. 修复了许多 UI 和 UX 问题
   {% endupdate %}

{% update date="2026-05-18" tags="new-releases,model-release,v0.1.405-beta" %}

## Qwen3.6 MTP 和 API 连接

Unsloth 带来了大量新更新 `v0.1.41-beta`:

* **GGUF 推理速度提升约 2 倍** 并自动启用 [MTP](https://unsloth.ai/docs/zh/mo-xing/qwen3.6.md#mtp-guide)
* [**支持调用 API**](https://unsloth.ai/docs/zh/ji-cheng/connections.md) ，适用于 [OpenAI](https://unsloth.ai/docs/zh/ji-cheng/connections/openai.md), [Anthropic](https://unsloth.ai/docs/zh/ji-cheng/connections/anthropic-claude.md) 等，并支持自动提示缓存、网页搜索和代码执行
* 连接外部推理后端： [vLLM](https://unsloth.ai/docs/zh/ji-cheng/connections/vllm.md), [Ollama](https://unsloth.ai/docs/zh/ji-cheng/connections/ollama.md), [llama-server](https://unsloth.ai/docs/zh/ji-cheng/connections/jiang-llama.cpp-lian-jie-dao-unsloth-shi-yong-llamaserver-yun-xing-gguf-mo-xing.md)
* 实验性 **MLX 推理**
* 完善支持 **非英语语言**
* **安全性** 改进

<a href="https://unsloth.ai/pages/213bd08e4302b621f4392f7ee38decb275ffab02#qwen3.6-inference-tutorials" class="button primary">运行 Qwen3.6 教程</a><a href="https://unsloth.ai/docs/zh/mo-xing/qwen3.6.md#mtp-guide" class="button primary">MTP 指南</a>

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F0abq31rgj0gOSH9vnpQ6%2Fmtp.gif?alt=media&amp;token=c66ec3f5-91f0-4617-824c-c537a2dde8b0" alt="" width="375"><figcaption></figcaption></figure></div>

#### 支持 MTP 推测解码，推理速度提升 1.4 到 2 倍！

* **自动 MTP 推测解码** 适用于 MTP GGUF；当捆绑的 llama.cpp 预编译版本过时或太旧、不支持 MTP 时发出警告
* 新增支持 MTP 的 llama.cpp 预编译二进制文件！

#### API 提供商调用与外部连接

* 现在，你可以将 Unsloth 连接到任何云 API 提供商（OpenAI、Anthropic、OpenRouter 等）。
* **内置网页搜索** 支持 OpenAI、Anthropic、OpenRouter 和 Kimi
* **内置代码执行** 适用于 OpenAI 和 Anthropic（Anthropic 容器会跨轮次持久保存并重复使用）
* 已为 OpenAI 和 Anthropic 模型启用提示缓存，可节省 50% 到 90% 的成本。
* 本地提供商（llama.cpp / vLLM / Ollama）现在无需 API 密钥
* 添加云提供商时自动加载模型

#### MLX 推理（实验性）

* 现在可以在 Mac 设备上本地运行 MLX 量化模型和模型！
* 我们很快会添加思考、工具和网页搜索功能！

#### Unsloth Studio 的其他更新

* 发送非英语内容或使用非英语语言（例如日语、中文）编写提示词现在可以正常使用
* 支持在聊天中附加 OpenDocument 文档
* o3 推理摘要负载
* 改进输入法编辑器稳定性，支持 RTL `dir="auto"`，修复长日志行截断问题
* 在界面中渲染工具推理轨迹
* 全面支持离线使用：发现缓存的 GGUF，并为推理和训练自动检测离线 DNS
* 大量 UI/UX 优化：重构深色主题、重新设计右侧边栏、添加随时段变化的树懒吉祥物、可关闭且可复制的提示消息、加大聊天输入框、优化代码执行配置、调整输入框操作胶囊按钮样式、缩窄 Discord 按钮

#### 训练更新

* 修复 Gemma 注意力掩码
* 多图像 GRPO
* GRPO 隐藏状态返回实验
* 新增持续预训练（CPT）训练方法，并将其作为一等选项
* 注册 Gemma-4 MoE LoRA 提取器，以修复 `grouped_mm` 缩并崩溃问题
* 可选启用融合的 `lm_head` + 交叉熵前向计算，并在 `UNSLOTH_RETURN_LOGITS=1`
* 时采用单矩阵乘法路径
* 为评估传递批次大小 `HF_DATASETS_OFFLINE` 现已与 `HF_HUB_OFFLINE`

#### Unsloth Studio 安全性改进

* 身份验证速率限制支持代理感知，防止反向代理绕过限制
* 收紧了阻止列表的沙盒工作进程（bash、 `hf upload`, `NOFILE`)
* 限制路径范围，防止工作进程逃出其正在使用的临时目录
* 在整个 Unsloth API 中严格验证架构
* 收紧 CSP / 安全标头（仅允许合法的 favicon 主机）
* 移除了 `torch.load` 在 `training_args.bin` 上的回退机制，确保加载模型时不可信的 pickle 永远无法执行
* 强化了 Tauri 桌面版的发布流程
* 前端身份验证：采用 singleflight 刷新令牌，更改时要求输入当前密码，修复登出功能，并共享 422 错误处理程序
* 取消操作的清理现在严格限定在正在使用的临时目录内，绝不会删除用户数据
  {% endupdate %}

{% update date="2026-05-05" tags="new-releases,v0.1.39-beta,v0.1.38-beta" %}

## Unsloth API 端点

#### ***v0.1.39-beta 错误修复*** **2026 年 5 月 5 日**

修复了聊天历史记录未显示（现有聊天历史记录并未丢失）以及附件无法正确附加的问题。该错误仅影响渲染——使用 `2026.5.2` 或直接调用 `curl -fsSL https://unsloth.ai/install.sh | sh`  进行更新

你可以将本地 LLM 连接到 Unsloth 的 API 端点，从而在 [Claude Code](https://unsloth.ai/docs/basics/claude-code) 和 [Codex](https://unsloth.ai/docs/basics/codex) 等工具中使用本地 LLM。这样你就能运行诸如……之类的模型 [Qwen](https://unsloth.ai/docs/models/qwen3.6) 和 [Gemma](https://unsloth.ai/docs/models/gemma-4) 在本地运行，并提供自愈式工具调用、代码执行和网页搜索等额外功能。

将 Unsloth 用作 API 推理端点不仅设置简单、速度快，还因为 Unsloth 提供了以下功能：

* [自愈式工具调用](https://unsloth.ai/docs/new/studio/chat#auto-healing-tool-calling)，可帮助将工具调用出错或格式错误的情况减少 50%
* [代码执行](https://unsloth.ai/docs/new/studio/chat#code-execution) 支持，可执行 Bash 和 Python，从而获得更准确的代码输出。
* 高级 [网页搜索](https://unsloth.ai/docs/new/studio/chat#advanced-web-search) 可访问并实际阅读网页，以收集深入信息。
* [自动推理设置](https://unsloth.ai/docs/new/studio/chat#auto-parameter-tuning) 适用于 GGUF 模型（temp、top-k 等）

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F1s98Id9xclzwMfxjXw2O%2Funsloth%20api%20cropped.png?alt=media&amp;token=64fac263-ca5b-4447-a740-41f58ec94904" alt="" width="375"><figcaption></figcaption></figure></div>

#### 新模型

我们还新增了多款可运行的模型，包括 NVIDIA [Nemotron 3 Nano Omni](https://unsloth.ai/docs/zh/mo-xing/nemotron-3-nano-omni.md)、IBM [Granite 4.1](https://unsloth.ai/docs/zh/mo-xing/ibm-granite-4.1.md) 和 [Mistral 3.5](https://unsloth.ai/docs/zh/mo-xing/mistral-3.5.md) Medium。我们帮助 Mistral 解决了在 transformers 和 GGUF 中实现时遇到的一些问题。

#### Unsloth 更新

* 现在可以从检查点恢复已停止的 Unsloth 训练任务。
* 聊天线程现在会自动保存，持久性也更加可靠。
* 修复了多进程环境下 DPO 训练卡住的问题。
* 通过 MROPE 更新改进了 VLM GRPO 支持。
* Unsloth 的停止按钮现在可以正确停止生成。
* 修复了浏览器刷新后聊天模板消失的问题。
  {% endupdate %}

{% update date="2026-04-23" tags="new-releases,v0.1.37-beta" %}

## 全新 UI 设计

大家好，我们全面改版了 Unsloth Studio 的 UI 和 UX，重点优化了聊天和训练体验：

* 根据社区反馈，新增可折叠侧边栏

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FKoonE97b0H3RioMwVohd%2Fstudio%20new%20ui.gif?alt=media&amp;token=e37f2839-914e-48b8-8c81-2dac3ade9408" alt="" width="375"><figcaption></figcaption></figure></div>

* 现在可以删除聊天记录并搜索过往对话

<div><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fm6se3dOmBZH9d9Wlif4W%2FScreenshot%202026-04-23%20at%206.15.38%E2%80%AFAM.png?alt=media&amp;token=e83fe246-1f88-4bf7-aa15-baf7d3356676" alt=""><figcaption></figcaption></figure> <figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fa4EGTdaWQ6EA81PeC3JZ%2FScreenshot%202026-04-23%20at%206.01.36%E2%80%AFAM.png?alt=media&amp;token=1a1cc50d-e0e0-47cd-9c1a-80583a887794" alt=""><figcaption></figcaption></figure></div>

* 为 Qwen3.6 等支持该功能的模型新增“保留思考”开关
* 设计更简洁统一，导航也更加便捷
* 扩展了设置页面，可更改头像、姓名等信息

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FvMtRDH8cVXCu08OZ4TRf%2FScreenshot%202026-04-23%20at%206.18.35%E2%80%AFAM.png?alt=media&amp;token=d989c4b5-6293-402c-981c-3209b7e7d750" alt="" width="375"><figcaption></figcaption></figure></div>

* 无需再重复输入 Hugging Face 令牌
* gpt-oss 现在提供低、中、高三档思考模式开关。
* 现在使用最新的 llama.cpp 预编译版本，Linux CUDA 环境也适用
* 修复了大量错误，并改进了一致性和稳定性
* 现在可以运行 Kimi-K2.6 了！
* 我们还新增了实验性的 API 支持。指南、公告等内容将于下周发布。

此前，Unsloth Studio 已支持运行和训练 Qwen3.6。现在就可以训练和运行 Qwen3.6-27B！
{% endupdate %}

{% update date="2026-04-22" tags="model-release,new-releases,v0.1.37-beta" %}

## **Qwen3.6-27B + Kimi K2.6**

[**Qwen3.6-27B**](https://unsloth.ai/docs/zh/mo-xing/qwen3.6.md) 现在可在 Unsloth Studio 中运行（需 18GB RAM）并进行微调。Kimi K2.6 也可在 Unsloth 中运行（需 350GB RAM）。

Unsloth Studio 新增了许多更新，请及时升级。详情和完整介绍将在未来几天内发布。
{% endupdate %}

{% update date="2026-04-16" tags="model-release,new-releases" %}

## **Qwen3.6**

[**Qwen3.6**](https://unsloth.ai/docs/zh/mo-xing/qwen3.6.md) 现在可在 Unsloth Studio 中运行并进行微调。该模型需要 23GB RAM，在几乎所有基准测试中都是实力最强的中型 LLM。
{% endupdate %}

{% update date="2026-04-11" tags="model-release" %}

## **Gemma 4 更新 + MiniMax-M2.7**

[Gemma 4 GGUF](https://huggingface.co/collections/unsloth/gemma-4) 现已更新，包含 Google 官方聊天模板修复（修复并改进了工具调用），以及 llama.cpp 的最新修复。请将 llama.cpp 更新到最新版本并重新下载量化模型，这样应该就不会再遇到 `unused token` 问题了。\
\
[MiniMax-M2.7](https://unsloth.ai/docs/zh/mo-xing/tutorials/minimax-m27.md) 现已发布！你可以使用我们的 GGUF，在 128GB RAM / 统一内存设备上以 4 位量化方式本地运行该模型。 [**MiniMax-M2.7 GGUF**](https://huggingface.co/unsloth/MiniMax-M2.7-GGUF)
{% endupdate %}

{% update date="2026-04-08" tags="new-releases,v0.1.36-beta" %}

## **Gemma 4 修复**

我们已更新 Gemma 4 [并修复了许多问题](https://unsloth.ai/docs/zh/mo-xing/gemma-4/train.md)。这些错误普遍存在，影响了所有训练软件包和实现， **并非由 Unsloth 引起**。我们发现并修复了这些错误，现在可以在 Unsloth 中正常训练 Gemma 4。

你只需要 **8GB 显存** 即可训练 **Gemma-4-E2B** 本地模型。与 FA2 配置相比，Unsloth 训练 Gemma 4 的速度 **约快 1.5 倍，同时显存占用减少约 60%** 。关于 Gemma 4 训练的完整指南和笔记本， [请参阅我们的博客](https://unsloth.ai/docs/zh/mo-xing/gemma-4/train.md).

#### Gemma 4 训练修复

1. **梯度累积** 不再导致损失值暴涨。此前，损失值可能飙升至 **300–400**；预期损失值约为 **10–15**.
2. 修复了影响 **IndexError** 的问题，该问题会影响 **26B** 和 **31B** 在 `transformers`.
3. 中的推理。修复了以下模型产生乱码输出的问题： **E2B/E4B** 当 `use_cache=False`时。请参阅 [问题 #45242](https://github.com/huggingface/transformers/issues/45242).
4. 修复了 **float16 音频** 因以下值导致的溢出： `-1e9` 。

如果你看到损失值超过 **13–15，** 例如 **100** 或 **300** - 梯度累积可能处理不当。此问题已在 **Unsloth** 和 **Unsloth Studio**.

#### Gemma 4 量化模型重新上传

我们还更新了 Gemma 4 GGUF，因此你需要重新下载。同样，这些量化问题 **与 Unsloth 无关，也不是由 Unsloth 导致的**:

1. CUDA：融合前检查缓冲区重叠——针对 `<unused24>` 词元的重要修复 - [PR #21566](https://github.com/ggml-org/llama.cpp/pull/21566)
2. `kv-cache`: 支持异构 iSWA 的注意力旋转 - [PR #21513](https://github.com/ggml-org/llama.cpp/pull/21513)
3. `vocab`: 为 Gemma 4 的 BPE 反词元化器添加字节词元处理 - [PR #21488](https://github.com/ggml-org/llama.cpp/pull/21488)
4. `convert`: 为 Gemma 4 设置 `"add bos" == True` - [PR #21500](https://github.com/ggml-org/llama.cpp/pull/21500)
5. `common`: 添加 Gemma 4 专用解析器 - [PR #21418](https://github.com/ggml-org/llama.cpp/pull/21418)
6. `llama-model`: 读取 Gemma 4 的 `final_logit_softcapping` - [PR #21390](https://github.com/ggml-org/llama.cpp/pull/21390)
7. `llama`: 为 Gemma 4 添加自定义换行符拆分 - [PR #21406](https://github.com/ggml-org/llama.cpp/pull/21406)

#### Unsloth Studio 更新

* 添加 **推测解码** 支持（ngram-mod，默认启用）
* Llama.cpp 已更新至最新版，包含所有 Gemma 4 修复
* 修复 Qwen3.5 和 Gemma 4 的训练问题
* 支持导出和保存 Gemma 4 模型
* 加强终端和 Python 工具的沙盒安全性
* 允许配方使用 Chat 中已加载的模型
* 修复导航时（以及切换标签页时）出现的空聊天会话问题，并提升新建聊天流程的稳定性
* 允许运行非 LLM 配方，并在执行页面中将 Data 标签页移至最前
* 沿用 HF 缓存仓库的大小写形式，避免重复下载
  {% endupdate %}

{% update date="2026-04-03" tags="new-releases,v0.1.36-beta" %}

## **Google - Gemma 4**

* 现在，你可以在 Unsloth 中运行和训练 [Gemma 4](https://unsloth.ai/docs/zh/mo-xing/gemma-4.md) 模型。
* 现在 Intel Mac 也能正常使用
* 针对 llama.cpp 的 2 项 Gemma-4 修复推出预编译二进制文件：
  * vocab：修复 Gemma4 分词器（[#21343](https://github.com/ggml-org/llama.cpp/pull/21343))
  * fix：修复 gemma 4 模板（[#21326](https://github.com/ggml-org/llama.cpp/pull/21326))
* 小型模型的工具调用现在更加稳定，不再会中途截断
* 适用于 Windows、Linux、Mac 和 WSL 设备的预编译二进制文件，支持 CPU 和 GPU
* 为非视觉模型新增推测解码（Gemma-4 很遗憾是视觉模型，Qwen3.5 也是）
* 现在可以正确应用上下文长度。
* 网页搜索现在可以获取网页内容，而不只是摘要
* HF API 调用减少 90%——降低触发速率限制的概率
  {% endupdate %}

{% update date="2026-03-31" tags="new-releases,improvements,v0-1-3-beta" %}

## **工具调用准确率提升 50% 以上，支持范围也更广**

* 现在所有模型的工具调用 **准确率提升 30% 至 80%。**
* 网页搜索现在可以获取网页内容，而不只是摘要
* 允许的工具调用次数从 10 次增加到 25 次
* 现在工具调用可以更好地终止，从而减少循环和重复调用
* 改进了 **工具调用修复** 和去重逻辑，防止工具调用泄漏 XML 内容
* 测试配置： `unsloth/Qwen3.5-4B-GGUF` (`UD-Q4_K_XL`），启用了网页搜索、代码执行和思考功能。

| 指标           | 之前     | 之后           |
| ------------ | ------ | ------------ |
| 回复中泄漏的 XML   | 10/10  | 0/10         |
| 使用的 URL 获取次数 | 0      | 10 次运行中有 4 次 |
| 歌曲名称正确的运行次数  | 0/10   | 2/10         |
| 平均工具调用次数     | 5.5    | 3.8          |
| 平均响应时间       | 12.3 秒 | 9.8 秒        |

#### 新功能

* 新增 **自定义文件夹** 现在可以在任意文件夹中使用任意 GGUF 文件——目前可在聊天中的“高级设置”和“自定义文件夹”中访问
* **更新按钮** 现已显示
* 全面更新了安装脚本的样式！
* 初步实现 **推理和训练的自动多 GPU 支持** - 适用于无法装入单块 GPU 的大型模型——Unsloth 会自动分配 GPU 资源
* Intel Mac 理论上开箱即用

Unsloth 运行更流畅、更快速

* **修复了大型模型下载超时的问题** - 不再出现超时。
* **修复了 Hugging Face 速率限制问题——HF API 调用减少 90%**
* 修复了 Windows 上的 bun 问题，并加快了安装速度
  {% endupdate %}

{% update date="2026-03-27" tags="new-releases,fixes,improvements,v0-1-25-beta" %}

## **重要更新**

距离上次发布才过了 2 天，但我们又带来了一些重要更新：

* **推理速度现已提升 20–30%。** 此前，工具调用和重复惩罚可能会让推理速度低于正常水平。现在，推理速度（tokens/s）应与 `llama-server` / `llama.cpp`.
* **现在可自动检测较旧或已存在的模型** 这些模型下载自 **LM Studio、Hugging Face** 及类似来源。
* **现在可正确计算推理速度（token/s）。** 此前，tokens/s 的计算包含了启动时间，因此显示的速度看起来比实际速度慢。现在显示的速度应能反映推理的“真实”速度。
* **CPU 使用率不再飙升。** 此前，内联查询器的标识每次渲染都会改变，导致 `useLiveQuery` 持续重新订阅。
* **Unsloth Studio 现在新增了关闭按钮，并且可以正常退出。** 此前，从桌面图标打开后再关闭，程序无法正常退出。现在，通过快捷方式启动时也会打开终端；关闭该终端即可完全退出 Unsloth Studio。如果之前的会话仍在运行，可以重启电脑，或运行 `lsof -i :8888` 然后运行 `kill -9 <PID>`.
* **工具调用和网页搜索效果更好** 错误也更少。
* 更新了文档，补充了大量关于 [删除模型、卸载程序](https://unsloth.ai/docs/zh/xin/studio/install.md#uninstall) 等方面的新信息。
* **改进了 Windows 和 Linux 上的安装与设置日志，使其更简洁、更智能。** 输出现在更易于阅读，格式更统一；默认输出更精简，体验更加流畅；同时还支持更丰富的 `--verbose` 诊断信息，方便你查看完整的技术细节。
* 现在可以查看训练历史记录了！
  {% endupdate %}

{% update date="2026-03-25" tags="new-releases,fixes,improvements,v0-1-2-beta" %}

## Unsloth Studio 发布后的首个版本

大家好，这是 Unsloth Studio 上线后的首个版本。新增了许多功能并修复了不少问题：

* **现在可以更新 Unsloth Studio 了！** 请使用相同的安装命令进行更新。
* **Windows** 现在 CPU 和 GPU 均可无缝运行。请重新安装！
* **应用快捷方式**。安装完成后，现在可在 Windows、macOS 和 Linux 上通过“开始菜单”/“启动器”或桌面上的快捷方式图标启动。
* **预编译的 `llama.cpp` 二进制文件** 和 `mamba_ssm` ——安装速度提升 6 倍！二进制文件体积也不到 300 MB。
* **安装包体积减少 50%** （节省 7 GB 以上），安装速度提升 2 倍，依赖解析也更快。PyPI 包体积缩小了 50%。
* **工具调用功能有所改进。** 改进了 llama.cpp 解析；聊天中不再显示原始工具标记；推理更快；新增“工具输出”面板和计时器。
* macOS 和 CPU 现在已启用 [数据配方](https://unsloth.ai/docs/zh/xin/studio/data-recipe.md) 并支持多文件上传。
* **初步支持 AMD Linux** 仅适用于机器——自动检测。
* **重新设计设置侧边栏。** 设置现在分为 **模型、采样、工具和偏好设置**
* **上下文长度** 现在可以调整。请注意，这并非必需，因为 llama.cpp 会通过 `--fit on`
* **支持上传多个文件。** 数据配方现在支持通过拖放一次上传多个 PDF、DOCX、TXT 和 MD 文件，并提供后端提取、上传内容保存和改进后的预览。
* **Colab** 现已修复 Unsloth Studio 在免费 T4 GPU 上的使用问题！ [在此试用](https://colab.research.google.com/github/unslothai/unsloth/blob/main/studio/Unsloth_Studio_Colab.ipynb)。由于使用了预编译二进制文件，速度也快了 20 倍！
* **聊天可观测性更强。** Unsloth 现在会显示 `llama-server` 的耗时和用量、上下文窗口用量条，以及信息更丰富的来源悬停卡片。
* **整体用户体验更佳** ——链接可点击、LaTeX 解析更好，默认卡片还提供工具、代码和网页工具提示，等等！
* **LiteLLM——** Unsloth Studio 和 Unsloth **未** 受到近期 LiteLLM 安全事件的影响。Nemo Data Designer 使用 LiteLLM 的版本不晚于 `1.80`，并未使用受影响的 `1.82.7` 或 `1.82.8`，此后也已将其彻底移除。
* 我们现在提供了一条新的单行安装命令，只需运行：&#x20;

  <pre class="language-bash" data-overflow="wrap" data-expandable="true"><code class="lang-bash">curl -fsSL https://unsloth.ai/install.sh | sh
  </code></pre>

#### **修复内容：**

* **改进 Windows 安装流程。** 修复了 Windows 静默退出、Anaconda/conda-forge 启动崩溃、非 NVIDIA Windows 安装故障，以及 CUDA 早期检查缺失和虚拟环境过期等安装检查问题。
* **修复了系统提示词。** 它们现在可再次用于非 GGUF 文本和视觉推理。
* **系统提示词和预设可持久保存。** 自定义系统提示词和聊天预设现在会在重新加载和切换页面后保留。
* **扩展 GGUF 导出支持。** 现在不仅 LoRA/PEFT，全量微调模型也可以导出为 GGUF。基础模型解析更加可靠，且界面会禁用不受支持的导出选项。
* **修复聊天滚动和布局问题。** 修复了生成期间的滚动位置问题、思考面板导致的布局偏移，以及折叠推理面板时视口跳动的问题。
* **更智能地检测端口冲突。** Unsloth 现在可以检测回环地址冲突，在可能的情况下识别占用端口的进程，并提供更清晰的备用端口提示。
  {% endupdate %}

{% update date="2026-03-17" tags="fixes,improvements,v0-1-0-beta" %}

## 全新工具调用功能 + Windows 稳定性改进

* 支持 Claude Artifacts，因此可以在聊天中执行 HTML，例如运行贪吃蛇游戏
* 工具调用准确率提升 30%，小型模型尤为明显；还为工具调用增加了计时器
* 可保存工具和网页搜索的输出 + 可开启或关闭工具自动修复功能
* 修复了许多错误——Windows CPU 现已可用，Mac 使用体验更流畅，安装包更小、安装速度更快
  {% endupdate %}
  {% endupdates %}

**定时任务**：按计划使用本地模型或 API 运行提示词


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/zh/xin/changelog.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
