For the complete documentation index, see llms.txt. This page is also available as Markdown.

Unsloth Studio 安装

了解如何在本地设备上安装 Unsloth Studio。

Unsloth Studio 可在 Windows、Linux、WSL 和 MacOS 上运行。你应该在每台设备上使用相同的安装流程,不过系统要求可能因设备而异。

WindowsMacOSLinux & WSLDocker开发者安装

  • Mac: 类似 CPU - 聊天 + 数据配方 目前可用。 MLX 训练即将上线。

  • CPU:即使没有 GPU,Unsloth 仍可运行,但仅限聊天 + 数据配方。

  • 训练: 可在 NVIDIA上运行:RTX 30、40、50、Blackwell、DGX Spark/Station 等 + Intel GPU

  • 即将推出: 支持 Apple MLX AMD.

快速开始

步骤 1:设置 Unsloth

从 Mac 打开 终端 ,然后输入下面的命令安装 Unsloth。

curl -fsSL https://unsloth.ai/install.sh | sh

Unsloth 将开始设置环境并安装所需的软件包,如下所示。输入 Y 并按 Enter ,当系统询问你是否允许 Studio 立即启动时。这将会在你的本地 8888 端口上启动 Unsloth。

如果你在安装过程中选择不启动 Unsloth,也可以随时使用 unsloth studio -p 8888 命令启动 Unsloth 应用。如果你希望 Unsloth 实例可被 PC/电脑外部的客户端访问,请在 -H 0.0.0.0 中添加到 unsloth studio 命令里。

步骤 2:启动 Unsloth

打开你喜欢的浏览器并访问 http://127.0.0.1:8888 URL。如果这是你第一次安装 Unsloth,系统会提示你创建一个新密码。之后,Unsloth 应用应该会在聊天页面打开,如下所示。

你可以立即开始训练和运行模型。下面你可以查看我们更详细的分步指南以开始使用:

Get Started

更新 Unsloth Studio

要更新 Unsloth Studio,请使用:

如果这不起作用,你可以使用下面的:

MacOS、Linux、WSL:

Windows PowerShell:

系统要求

Windows

Unsloth Studio 可直接在 Windows 上运行,无需 WSL。要训练模型,请确保你的系统满足以下要求:

要求

  • Windows 10 或 Windows 11(64 位)

  • 已安装驱动程序的 NVIDIA GPU

  • App Installer (包含 winget): 在此

  • Git: winget install --id Git.Git -e --source winget

  • Python:版本 3.11 到 3.14 之间,不包括 3.14

  • 在 Python 环境中工作,例如 uv, venv,或 conda/mamba

MacOS

Unsloth Studio 支持 Mac 设备,适用于 聊天 用于 GGUF 模型和 数据配方 (导出 (即将推出)。 MLX 训练即将推出!

  • macOS 12 Monterey 或更新版本(Intel 或 Apple Silicon)

  • 安装 Homebrew: 在此

  • Git: brew install git

  • cmake: brew install cmake

  • openssl: brew install openssl

  • Python:版本 3.11 到 3.14 之间,不包括 3.14

  • 在 Python 环境中工作,例如 uv, venv,或 conda/mamba

Linux & WSL

  • Ubuntu 20.04+ 或类似发行版(64 位)

  • 已安装驱动程序的 NVIDIA GPU

  • CUDA 工具包(建议 12.4+,Blackwell 建议 12.8+)

  • Git: sudo apt install git

  • Python:版本 3.11 到 3.14 之间,不包括 3.14

  • 在 Python 环境中工作,例如 uv, venv,或 conda/mamba

Docker

  • 拉取我们最新的 Unsloth 容器镜像: docker pull unsloth/unsloth

  • 通过以下方式运行容器:

更多信息, 见此处.

  • 访问你的 studio 实例: http://localhost:8000 或外部 IP 地址 http://external_ip_address:8000/

仅 CPU

Unsloth Studio 支持 CPU 设备,用于 聊天 用于 GGUF 模型和 数据配方 (导出 (即将推出)

  • 与上面 Linux 的要求相同(不包括 NVIDIA GPU 驱动)以及 MacOS。

开发者安装(高级)

主仓库安装

macOS、Linux、WSL 开发者安装:

Windows PowerShell 开发者安装:

夜间版安装

夜间版 - MacOS、Linux、WSL:

然后每次启动:

夜间版 - Windows:

在 Windows Powershell 中运行:

然后每次启动:

卸载

要卸载 Unsloth Studio,请按以下 4 个步骤:

1. 移除应用程序

  • MacOS、WSL、Linux: rm -rf ~/.unsloth/studio/unsloth_studio

  • Windows(PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"

这会移除应用程序,但会保留你的模型检查点、导出、历史记录、缓存和聊天内容。

2. 移除快捷方式和符号链接

macOS:

Linux:

WSL / Windows(PowerShell):

3. 移除 CLI 命令

macOS、Linux、WSL:

Windows(PowerShell): 安装程序已将 venv 的 Scripts 目录添加到你的用户 PATH 中。要将其移除,请打开 设置 → 系统 → 关于 → 高级系统设置 → 环境变量,找到 Path 在用户变量下,并删除指向 .unsloth\studio\...\Scripts.

4. 删除全部内容(可选)

如果你还想删除历史记录、缓存、聊天、模型检查点和模型导出,请删除整个 Unsloth 文件夹:

  • MacOS、WSL、Linux: rm -rf ~/.unsloth

  • Windows(PowerShell): Remove-Item -Recurse -Force "$HOME\.unsloth"

请注意,下载的 HF 模型文件是单独存储在 Hugging Face 缓存中的——以上步骤都不会删除它们。请参见 删除模型文件 下面的内容,以便释放那部分磁盘空间。

删除缓存的 HF 模型文件

你可以通过模型搜索中的垃圾桶图标删除旧模型文件,或者从默认的 Hugging Face 缓存目录中移除相应的缓存模型文件夹。默认情况下,Hugging Face 使用 ~/.cache/huggingface/hub/ 在 macOS/Linux/WSL 上,以及 C:\Users\<username>\.cache\huggingface\hub\ 在 Windows 上。

  • MacOS、Linux、WSL: ~/.cache/huggingface/hub/

  • Windows: %USERPROFILE%\.cache\huggingface\hub\

如果设置了 HF_HUB_CACHEHF_HOME ,请改用该位置。在 Linux 和 WSL 上, XDG_CACHE_HOME 也可以更改默认缓存根目录。

使用旧的 / 现有 GGUF 模型

4 月 1 日更新: 你现在可以选择一个现有文件夹,让 Unsloth 从中检测模型。

3 月 27 日更新: Unsloth Studio 现在 会自动检测较旧的 / 已存在的模型 ,这些模型下载自 Hugging Face、LM Studio 等。

手动说明: Unsloth Studio 会检测下载到你的 Hugging Face Hub 缓存中的模型 (C:\Users{your_username}.cache\huggingface\hub)。如果你有通过 LM Studio 下载的 GGUF 模型,请注意它们存储在 C:\Users{your_username}.cache\lm-studio\models C:\Users{your_username}\lm-studio\models 。有时如果它们不可见,你需要将这些 .gguf 文件移动或复制到你的 Hugging Face Hub 缓存目录(或 llama.cpp 可访问的其他路径)中,Unsloth Studio 才能加载它们。

在 Studio 中微调模型或适配器后,你可以将其导出为 GGUF,并在 Studio Chat 中直接使用 llama.cpp 进行本地推理。Unsloth Studio 由 llama.cpp 和 Hugging Face 提供支持。

Google Colab 笔记本

我们创建了一个 免费的 Google Colab 笔记本 ,这样你就可以在 Colab 的 T4 GPU 上体验 Unsloth 的所有功能。你可以训练并运行大多数参数规模最高达 22B 的模型,并切换到更大的 GPU 以运行更大的模型。只需点击“Run all”,安装完成后 UI 应该会弹出。

安装完成后,滚动到 启动 Unsloth Studio 并点击 打开 Unsloth Studio 左侧显示的白色框中:

继续向下滚动,查看实际 UI。

故障排除

问题
修复

Python 版本错误

sudo apt install python3.12 python3.12-venv 版本 3.11 到 3.14 之间,不包括 3.14

未找到 nvidia-smi

从 https://www.nvidia.com/Download/index.aspx 安装 NVIDIA 驱动

未找到 nvcc (CUDA)

sudo apt install nvidia-cuda-toolkit 或者添加 /usr/local/cuda/bin 到 PATH

llama-server 构建失败

非致命错误,Studio 仍可运行,但 GGUF 推理将不可用。安装 cmake 并重新运行设置即可修复。

未找到 cmake

sudo apt install cmake

未找到 git

sudo apt install git

构建失败

删除 ~/.unsloth/llama.cpp 并重新运行设置

最后更新于

这有帮助吗?