For the complete documentation index, see llms.txt. This page is also available as Markdown.

Unsloth Studio 安装

手动安装 Unsloth Studio,或下载独立的 Unsloth Desktop 应用。

Unsloth Studio 可在 Windows、Linux、WSL 和 MacOS 上运行。你应该在每台设备上使用相同的安装流程,不过系统要求可能因设备而异。

使用 Unsloth Desktop 安装

安装 Unsloth Studio 最简单的方法是使用原生的 桌面应用。请根据你的操作系统下载:

本页其余部分将 Unsloth Studio 手动安装。

手动安装 Unsloth Studio

WindowsMacOSLinux 和 WSLDocker开发者安装

  • Mac: 类似 CPU - 聊天 + 数据配方 目前可用。 MLX 训练现在可用了!

  • CPU:Unsloth 即使没有 GPU 也能正常工作,但仅适用于聊天 + 数据配方。

  • 训练: 支持 NVIDIA, Intel, AMD GPU 和 Mac 设备

快速开始

步骤 1:设置 Unsloth

打开 终端 ,然后通过输入下面的命令安装 Unsloth。

curl -fsSL https://unsloth.ai/install.sh | sh

Unsloth 将开始设置环境并安装所需的软件包,如下所示。输入 Y 并按 Enter ,当系统询问是否允许 Unsloth 现在启动时。这将会在你的本地 8888 端口上启动 Unsloth。

如果你在安装过程中选择不启动 Unsloth,也可以随时使用以下命令启动 Unsloth 应用: unsloth studio -p 8888 。如果你希望你的 Unsloth 实例可被 PC/电脑外部的客户端访问,请添加 -H 0.0.0.0unsloth studio 命令中。

步骤 2:启动 Unsloth

打开你喜欢的浏览器并前往 http://127.0.0.1:8888 URL。如果这是你第一次安装 Unsloth,你将会被提示创建一个新密码。之后,Unsloth 应用应该会在聊天页面打开,如下所示。

使用 HTTPS 和 Cloudflare 安全启动 Unsloth。 Unsloth 现在提供了一种通过免费的 Cloudflare 隧道以 HTTPS 安全启动 Unsloth 的方式。请使用下面的命令(适用于 Windows、Mac 和 Linux):

你可以立即开始训练和运行模型。下面可以查看我们更详细的分步指南以开始使用:

Get Started

步骤 1:设置 Unsloth

打开开始菜单,搜索 PowerShell,并启动它。复制并粘贴下面的安装命令:

它将会自动开始安装。安装完成后,PowerShell 会询问你是否要启动 Unsloth Studio.

你也可以使用以下命令启动它:

如果你希望你的实例可被 PC/电脑外部的客户端访问。 添加 -H 0.0.0.0unsloth studio 命令中。

步骤 2:启动 Unsloth

打开 http://127.0.0.1:8888 到浏览器中。首次启动时,请创建一个新密码以继续进入聊天页面。 Unsloth Studio 现已安装并可供使用。

Unsloth 应用现在应该会在聊天页面打开,如下所示。

使用 HTTPS 和 Cloudflare 安全启动 Unsloth。 Unsloth 现在提供了一种通过免费的 Cloudflare 隧道以 HTTPS 安全启动 Unsloth 的方式。请使用下面的命令(适用于 Windows、Mac 和 Linux):

你可以立即开始训练和运行模型。下面可以查看我们更详细的分步指南以开始使用:

Get Started

步骤 1:设置 Unsloth

打开你的终端应用。你可以通过按 Ctrl + Alt + T,或通过搜索 Terminal 在系统的应用菜单中启动它。

点击 Windows 开始菜单,输入你已安装的发行版名称(例如 Ubuntu),然后打开它。

要安装,请复制并运行安装命令:

然后:

  1. 点击终端窗口内部

  2. 使用以下方式粘贴命令 Ctrl + Shift + V

  3. Enter

Unsloth 将开始设置环境并安装所需的软件包,如下所示。输入 Y 并按 Enter ,当系统询问是否允许 Unsloth 现在启动时。这将会在你的本地 8888 端口上启动 Unsloth。

如果你在安装过程中选择不启动 Unsloth,也可以随时使用以下命令启动 Unsloth 应用: unsloth studio -p 8888 。如果你希望你的 Unsloth 实例可被 PC/电脑外部的客户端访问,请添加 -H 0.0.0.0unsloth studio 命令中。

步骤 2:启动 Unsloth

打开你喜欢的浏览器并输入 http://127.0.0.1:8888 到 URL 输入框中。如果这是你第一次安装 Unsloth,你将被转到 http://127.0.0.1:8888/change-password 页面,如下所示:

使用 HTTPS 和 Cloudflare 安全启动 Unsloth。 Unsloth 现在提供了一种通过免费的 Cloudflare 隧道以 HTTPS 安全启动 Unsloth 的方式。请使用下面的命令(适用于 Windows、Mac 和 Linux):

你可以立即开始训练和运行模型。下面可以查看我们更详细的分步指南以开始使用:

Get Started

更新 Unsloth Studio

要更新 Unsloth Studio,请使用与安装相同的命令:

macOS、WSL、Linux:

Windows(PowerShell):

系统要求

Windows

Unsloth Studio 可直接在 Windows 上运行,无需 WSL。要训练模型,请确保你的系统满足以下要求:

要求

  • Windows 10 或 Windows 11(64 位)

  • 已安装驱动程序的 NVIDIA GPU

  • App Installer (包含 winget): 这里

  • Git: winget install --id Git.Git -e --source winget

  • Python:版本 3.11 到 3.14 之前

  • 请在以下 Python 环境中工作,例如 uv, venv,或 conda/mamba

MacOS

Unsloth Studio 可在 Mac 设备上用于 聊天 以及训练和所有功能。你可以使用 Unsloth 运行 MLX 模型。

  • macOS 12 Monterey 或更新版本(Intel 或 Apple Silicon)

  • 请在以下 Python 环境中工作,例如 uv, venv,或 conda/mamba

Linux 和 WSL

  • Ubuntu 20.04+ 或类似发行版(64 位)

  • 已安装驱动程序的 NVIDIA GPU

  • CUDA 工具包(推荐 12.4+,blackwell 推荐 12.8+)

  • Git: sudo apt install git

  • Python:版本 3.11 到 3.14 之前

  • 请在以下 Python 环境中工作,例如 uv, venv,或 conda/mamba

Docker

  • 拉取我们最新的 Unsloth 容器镜像: docker pull unsloth/unsloth

  • 通过以下命令运行容器:

更多信息, 请看这里.

  • 在以下地址访问你的 studio 实例 http://localhost:8000 或外部 IP 地址 http://external_ip_address:8000/

仅 CPU

Unsloth Studio 支持 CPU 设备用于 聊天 用于 GGUF 模型和 数据配方 (导出 (即将很快推出)

  • 与上面提到的 Linux(不包括 NVIDIA GPU 驱动)和 MacOS 相同。

开发者 / 每日构建安装(高级)

主仓库安装

macOS、Linux、WSL 开发者安装:

若要安装到一个隔离位置(它自己的虚拟环境、 auth/, studio.db、缓存和 llama.cpp 构建),请设置 UNSLOTH_STUDIO_HOME 并在启动时再次传入:

然后更新:

Windows PowerShell 开发者安装:

若要安装到一个隔离位置(它自己的虚拟环境、 auth/, studio.db、缓存和 llama.cpp 构建),请设置 UNSLOTH_STUDIO_HOME 并在启动时再次传入:

然后更新:

远程访问: --secure (HTTPS 隧道)vs 原始端口

默认情况下 unsloth studio 绑定到 127.0.0.1 (仅此机器)。要从另一台设备访问,请选择以下之一:

  • --secure (推荐):通过 免费的 Cloudflare HTTPS 链接提供服务。Unsloth 保持绑定到 localhost,而隧道提供公共 URL;如果隧道无法建立,它会失败关闭(不会启动),因此原始端口永远不会暴露。

  • -H 0.0.0.0:将原始端口绑定到所有网络接口,可从网络中的任何位置访问。仅在受信任的网络中使用。

服务器端工具(网页搜索、Python 和终端代码执行)会以你的用户身份运行,并且默认开启。任何能够使用 API 密钥访问服务器的人都可以在这台机器上运行代码,因此请妥善保管你的 API 密钥,并在暴露 Unsloth 时传入 --disable-tools

高级启动方式

安装器选项可以通过环境变量传入。在 macOS、Linux 和 WSL 上,请将变量放在管道符后面,以便 shell 将其传递给 sh;在 Windows 上则使用 $env: 在管道传给 iex.

跳过 PyTorch(仅 GGUF 模式):

固定 Python 版本:

使用以下方式安装到自定义位置 UNSLOTH_STUDIO_HOME:

在高核心数主机上限制 Unsloth 的原生 CPU 线程池: UNSLOTH_CPU_THREADS=8 unsloth studio -p 8888.

卸载

完全移除 Unsloth Studio 的推荐方式是使用与你的操作系统匹配的卸载脚本。它会停止任何正在运行的服务器,移除安装目录、启动器数据目录、桌面快捷方式,以及任何平台特定的条目(macOS .app Mac 上的 bundle + Launch Services;开始菜单、 HKCU\Software\Unsloth 注册表项和用户 PATH 条目(Windows 上):

  • MacOS、WSL、Linux:

  • Windows(PowerShell):

如果你只想删除安装目录并保留启动器/快捷方式,以便之后重新安装,可以改为运行 rm -rf ~/.unsloth/studio (Mac/Linux/WSL)或 Remove-Item -Recurse -Force "$HOME\.unsloth\studio" (Windows)。位于 ~/.cache/huggingface 的模型缓存不会被这些操作影响。

手动卸载

如果你只想移除特定部分:

1. 仅移除应用 (保留历史记录、聊天、检查点和导出不受影响):

  • macOS、WSL、Linux: rm -rf ~/.unsloth/studio/unsloth_studio

  • Windows(PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"

2. 完全移除 Unsloth (保留其他 Unsloth 工具不受影响):

  • macOS、WSL、Linux: rm -rf ~/.unsloth/studio

  • Windows(PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth\studio"

3. 移除所有与 Unsloth 相关的内容:

  • macOS、WSL、Linux: rm -rf ~/.unsloth

  • Windows(PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth"

4. 移除快捷方式和符号链接:

macOS:

Linux:

WSL / Windows(PowerShell):

5. 移除 CLI 命令:

  • macOS、Linux、WSL: rm -f ~/.local/bin/unsloth

  • Windows(PowerShell): 安装程序已将 venv 的 Scripts 目录添加到你的用户 PATH 中。要移除它,请打开 设置 → 系统 → 关于 → 高级系统设置 → 环境变量,在 Path 下的用户变量中找到并删除指向 .unsloth\studio\...\Scripts.

注意:第 1-5 步不会影响你已下载的 HF 模型文件。如果你想释放这部分空间,请参阅下面的删除缓存的 HF 模型文件。

删除缓存的 HF 模型文件

你可以从模型搜索中的垃圾桶图标删除旧模型文件,或者从默认的 Hugging Face 缓存目录中移除相关的缓存模型文件夹。默认情况下,Hugging Face 使用 ~/.cache/huggingface/hub/ 在 macOS/Linux/WSL 上,以及 C:\Users\<username>\.cache\huggingface\hub\ 在 Windows 上。

  • MacOS、Linux、WSL: ~/.cache/huggingface/hub/

  • Windows: %USERPROFILE%\.cache\huggingface\hub\

如果 HF_HUB_CACHEHF_HOME 已设置,请改用该位置。在 Linux 和 WSL 上, XDG_CACHE_HOME 也可以更改默认缓存根目录。

使用旧的 / 现有的 GGUF 模型

4 月 1 日更新: 你现在可以选择一个现有文件夹供 Unsloth 从中检测。

3 月 27 日更新: Unsloth Studio 现在 会自动检测较旧的 / 已存在的模型 ,这些模型可能下载自 Hugging Face、LM Studio 等。

手动说明: Unsloth Studio 会检测下载到你的 Hugging Face Hub 缓存中的模型 (C:\Users{your_username}.cache\huggingface\hub)。如果你有通过 LM Studio 下载的 GGUF 模型,请注意它们存储在 C:\Users{your_username}.cache\lm-studio\models C:\Users{your_username}\lm-studio\models 中。有时如果它们不可见,你需要将这些 .gguf 文件移动或复制到你的 Hugging Face Hub 缓存目录(或 llama.cpp 可访问的其他路径)中,Unsloth Studio 才能加载它们。

在 Unsloth 中微调模型或适配器后,你可以将其导出为 GGUF,并使用 llama.cpp 直接在 Unsloth Chat 中运行本地推理。Unsloth Studio 由 llama.cpp 和 Hugging Face 提供支持。

Google Colab 笔记本

我们创建了一个 免费的 Google Colab 笔记本 ,这样你就可以在 Colab 的 T4 GPU 上探索 Unsloth 的所有功能。你可以训练并运行大多数参数量不超过 22B 的模型,并在更大的模型上切换到更强的 GPU。只需点击“Run all”,安装完成后界面就会弹出。

安装完成后,滚动到 启动 Unsloth Studio 并点击 打开 Unsloth Studio 左侧白色框中显示的位置:

继续向下滚动,就可以看到实际的 UI。

故障排除

问题
修复

Python 版本错误

sudo apt install python3.12 python3.12-venv 版本 3.11 到 3.14 之前

未找到 nvidia-smi

从 https://www.nvidia.com/Download/index.aspx 安装 NVIDIA 驱动程序

未找到 nvcc (CUDA)

sudo apt install nvidia-cuda-toolkit 或添加 /usr/local/cuda/bin 到 PATH

llama-server 构建失败

非致命错误,Unsloth 仍可使用,但 GGUF 推理将不可用。安装 cmake 并重新运行设置即可修复。

未找到 cmake

sudo apt install cmake

未找到 git

sudo apt install git

构建失败

删除 ~/.unsloth/llama.cpp 并重新运行设置

最后更新于

这有帮助吗?