跳转到内容
For the complete documentation index, see llms.txt. This page is also available as Markdown.

🦥Unsloth 文档

Unsloth 是一个用于运行和训练 LLM 的开源框架。

Unsloth 通过开源界面,让你在自己的本地硬件上运行和训练 AI 模型。

我们的文档将指导你如何在本地运行和训练自己的 LLM。

下载功能GitHub

⚡ 快速入门

Unsloth 支持 macOS、Linux、 Windows, NVIDIA, AMD、Intel 和 CPU 配置。请参阅: Unsloth 要求。下载适用于你操作系统的原生桌面应用:

下载 Unsloth Desktop

或者,原生安装 Unsloth Studio(我们的浏览器版 Web UI):

安装 Unsloth:

curl -fsSL https://unsloth.ai/install.sh | sh

更新时使用相同的命令。

安装 Unsloth:

irm https://unsloth.ai/install.ps1 | iex

更新时使用相同的命令。

该 Unsloth Docker 镜像 unsloth/unsloth 可在 Docker 上获取。 阅读指南。

安装 Unsloth Desktop:

brew install --cask unsloth

更新 Unsloth Desktop:

brew upgrade --cask unsloth

安装 Unsloth Desktop:

winget install --id UnslothAI.Unsloth -e

更新 Unsloth Desktop:

winget upgrade --id UnslothAI.Unsloth -e

👾 Unsloth 启动

Unsloth 启动 可让你将 Claude Code, Codex 及其他智能体通过 unsloth start 命令连接到本地模型。

启动 Unsloth,加载模型,打开项目文件夹,然后运行:

将 claude 替换为下方任意智能体名称:

在本地运行 Qwen3.5 的 Claude Code。
智能体
命令

Claude Code

unsloth start claude

OpenAI Codex

unsloth start codex

DeepSeek Harness

unsloth start dsh

Visual Studio Code

unsloth start vscode

OpenCode

unsloth start opencode

Hermes Agent

unsloth start hermes

OpenClaw

unsloth start openclaw

🦥 为什么选择 Unsloth?

⭐ 功能

Unsloth 可让你运行和训练文本、 音频, 嵌入, 视觉 等模型。Unsloth 为推理和训练提供了许多关键功能:

推理

  • 运行和训练 LLM、扩散、嵌入及音频模型: Qwen3.8, Kimi K3, MiniMax-H3、 Muse Glimmer, DeepSeek-V4, Gemma 4.

  • 智能体与工具: 将本地模型与 Claude Code, Codex和 MCP结合使用,包括工具调用和代码执行。

  • 搜索与 RAG: 使用私密且不限量的网页搜索、深度研究、自动压缩(滚动上下文窗口)和 RAG。

  • 浏览器操作: 浏览网站、填写表单、阅读 PDF,并使用本地模型编辑文件。

  • 图像与视频: 运行和训练 图像 和视频扩散模型或多模态模型

  • 远程与局域网: 从连接到 局域网 的任意设备访问本地模型,也可通过安全的 Cloudflare HTTPS 远程访问。

  • 连接: 通过 兼容 OpenAI 的 API提供模型服务。还可连接你的 ChatGPT/Codex 订阅以及 云服务提供商

  • 沙盒: 控制模型运行命令时 可以访问哪些文件。

训练与部署

视频演示

最后更新于

这有帮助吗?