For the complete documentation index, see llms.txt. This page is also available as Markdown.

🦥Unsloth Studio 介绍

使用 Unsloth Studio 本地运行和训练 AI 模型。

我们正在推出 Unsloth Studio (Beta):一个开源、无需代码的 Web UI,用于在一个统一的 本地 界面中训练、运行和导出开源模型。

快速开始功能GitHub

  • 运行 GGUF, MLX 以及扩散图像/视频模型在 Mac、Windows、Linux 上本地运行。

  • 以减少 70% VRAM 的方式,让 500+ 个模型的训练速度提升 2 倍(且不损失准确率)

  • 运行和训练文本、扩散视觉、TTS 音频、嵌入模型

Cover

随处部署

安全地远程部署模型,并通过 Cloudflare HTTPS 在任何地方访问 Unsloth

⭐ 功能

执行代码 + 自我修复工具调用

Unsloth Studio 让 LLM 能运行 Bash 和 Python,而不仅仅是在绕过权限的情况下运行 JavaScript。它还会像 Claude Artifacts 那样对程序进行沙盒化,让模型可以测试代码、生成文件,并通过真实计算验证答案。

例如,Unsloth 创建了一个沙盒,让 GLM-5.2 执行代码,并在 Canvas 中显示为 HTML 预览。

带有沙盒代码执行的准确工具调用

升级的网页搜索

Unsloth 私密、无限且安全的网页搜索会真正直接访问页面以收集相关信息和数据,而不只是扫描网站摘要。这能提供更准确、更深入的信息和上下文输出。

例如,Qwen3.5-4B 搜索了 20 多个网站并引用了来源,网页搜索发生在其思考轨迹中。

作为 API 端点的 Unsloth

你现在可以通过以下工具使用本地 LLM: Claude CodeCodex ,方法是将其连接到 Unsloth 的 API 端点。这意味着你可以在这些工具中直接运行 Qwen 和 Gemma 模型,并使用 Unsloth 的推理能力,其中包括自我修复工具调用、网页搜索等功能。

你也可以 连接一个提供商 ,例如 OpenAI、Anthropic 或 vLLM,到 Unsloth。

无需代码训练

上传 PDF、CSV、JSON 文档或 YAML 配置,并立即在 NVIDIA 上开始训练。Unsloth 的内核可在 500+ 个文本、视觉、TTS/音频和嵌入模型上优化 LoRA、FP8、FFT、PT。

微调最新的 LLM,例如 Qwen3.5 和 NVIDIA Nemotron 3. 多 GPU 会自动工作,新版本即将推出。

在本地运行模型

搜索并运行 GGUF 和 safetensor 模型,具备自我修复 工具调用、高级 网页搜索, 自动推理 设置, 代码执行 (Bash + Python)、 API。上传图片、文档、音频、代码。

并排对战模型。由 llama.cpp + Hugging Face 驱动,Unsloth 支持 多 GPU 推理、 自动卸载与适配,以及大多数模型。

数据配方

数据配方 通过图节点工作流将你的文档转换为可用/合成数据集。上传非结构化或结构化文件,如 PDF、CSV 和 JSON。由 NVIDIA Nemo 驱动的 Unsloth Data Recipes 数据设计器会自动将文档转换为你想要的格式。

可观测性

获得 完整可视化 来了解并控制你的训练运行。可实时跟踪训练损失、梯度范数和 GPU 利用率,并按你的喜好自定义。

你甚至可以在手机等其他设备上查看训练进度。

导出 / 保存模型

导出任何模型,包括你微调后的模型,导出为 safetensors 或 GGUF,以便在 llama.cpp、vLLM、Ollama、LM Studio 等中使用。

会保存你的训练历史,因此你可以回看运行、再次导出并进行实验。

隐私优先 + 安全

Unsloth Studio 可 100% 离线并在你的电脑本地使用。其基于令牌的身份验证,包括加密密码以及 JWT 访问/刷新流程,可确保你的数据安全。

你可以使用之前已下载的现有/旧模型或 GGUF。请阅读 这里的说明.

⚡ 快速开始

通过 Unsloth Desktop 安装

安装 Unsloth Studio 最简单的方法是使用原生 Desktop 应用。请根据你的操作系统下载:

如需手动安装 Unsloth Studio,请使用下面的命令。再次运行相同命令即可更新:

MacOS、Linux、WSL:

Windows PowerShell:

启动 Unsloth

通过 HTTPS 和 Cloudflare 安全启动 Unsloth

新! Unsloth 现在提供了一种通过免费的 Cloudflare 隧道,以 HTTPS 安全启动 Unsloth 的方式。使用下面的命令(可在 Windows、Mac 和 Linux 上运行):

如需了解更多安装和卸载详情,请访问 Unsloth Studio 安装 部分。

Installation

Google Colab 笔记本

我们创建了一个 免费的 Google Colab 笔记本 ,这样你就可以在 Colab 的 T4 GPU 上探索 Unsloth 的所有功能。你可以训练并运行最多 22B 参数的大多数模型,也可以切换到更大的 GPU 来运行更大的模型。只需点击“Run all”,安装完成后 UI 就会弹出。

安装完成后,滚动到 启动 Unsloth Studio 并点击 打开 Unsloth Studio 在左侧显示的白色框中:

继续向下滚动,查看实际的 UI。

👾 Unsloth Start

Unsloth Start 让你可以通过 Claude Code, Codex 以及其他智能体连接到本地模型,使用 unsloth start 命令。

启动 Unsloth,加载模型,打开你的项目文件夹,然后运行:

claude 替换为下面任意智能体:

Claude Code 在本地使用 Qwen3.5 运行。
智能体
命令

Claude Code

unsloth start claude

OpenAI Codex

unsloth start codex

Hermes Agent

unsloth start hermes

OpenClaw

unsloth start openclaw

OpenCode

unsloth start opencode

工作流程

以下是 Unsloth Studio 的常见工作流程,可帮助你快速上手:

  1. 从以下位置启动 Unsloth 安装说明.

  2. 从本地文件或受支持的集成中加载模型。

  3. 从 PDF、CSV 或 JSONL 文件导入训练数据,或从零开始构建数据集。

  4. 使用推荐预设开始训练,或自行自定义配置。

  5. 与训练后的模型聊天,并将其输出与基础模型进行比较。

  6. 保存或导出 到你已经使用的本地技术栈中。

你可以阅读我们对 Unsloth Studio 各个部分的深入介绍:

常见问题

Unsloth 会收集或存储数据吗? Unsloth 不收集使用遥测数据。Unsloth 仅收集兼容性所需的最少硬件信息,例如 GPU 类型和设备(如 Mac)。Unsloth Studio 100% 离线并在本地运行。

如何使用我之前从 Hugging Face 下载的旧/现有模型? 是的,你可以使用之前从 Hugging Face 等下载的现有/旧模型或 GGUF。现在它们应该会被 Unsloth 自动检测到,否则请阅读我们的 这里的说明.

为什么在 Unsloth 中推理有时更慢? Unsloth 和其他本地推理应用一样,都是由 llama.cpp 驱动的,因此速度大致应相同。有时 Unsloth 可能会变慢,是因为你开启了网页搜索、代码执行、自我修复工具调用。这些功能都会让推理变慢。如果在关闭所有功能后速度差异仍然偏慢,请在 GitHub 上提交 issue!

Unsloth Studio 支持与 OpenAI 兼容的 API 吗? 是的,请查看我们的 这里的 API 端点指南.

Unsloth 现在是否采用 AGPL-3.0 许可证? Unsloth 采用 Apache 2.0 和 AGPL-3.0 的双许可模式。核心 Unsloth 包仍采用 Apache 2.0许可,而某些可选组件,例如 Unsloth Studio UI,则采用 AGPL-3.0.

这种结构有助于支持 Unsloth 的持续开发,同时保持项目开源,并让更广泛的生态系统持续增长。

Unsloth 只支持 LLM 吗? 不。Unsloth 支持一系列受支持的 transformers 兼容模型家族,包括文本、多模态模型、 文本转语音、音频、 嵌入以及 BERT 风格的模型。

我可以使用自己的训练配置吗? 可以。导入 YAML 配置后,Unsloth 会预先填充相关设置。

使用 UI 是否需要训练模型? 不需要,你可以直接下载任何 GGUF 或模型,而无需对任何模型进行微调。

致谢

非常感谢 NVIDIA 和 Hugging Face 参与我们的发布。同时也感谢所有 Unsloth Studio 的早期测试者,我们非常感谢你们的时间和反馈。我们还要感谢 llama.cpp、PyTorch 和开源模型实验室提供了让 Unsloth Studio 成为可能的基础设施。

最后更新于

这有帮助吗?