search
RedditDiscordGitHub

arrow-down-to-squareUnsloth Studio 安装

了解如何在本地设备上安装 Unsloth Studio。

Unsloth Studio 可在 Windows、Linux、WSL 和 MacOS 上运行。您应在每台设备上使用相同的安装流程，尽管系统要求可能因设备而异。

windowsWindowsappleMacOSlinuxLinux 与 WSLdockerDocker

  • 训练： 支持 NVIDIA GPU：RTX 3090、Blackwell 50 系列、DGX Spark 等。

  • Mac： 类似于 CPU - 目前仅支持聊天功能。 MLX 训练很快就会推出。

  • CPU：Unsloth 在没有 GPU 的情况下仍可工作，但仅用于 聊天 推理。

  • 即将推出： 支持 Apple MLX, AMD，和 Intel.

hashtag
安装说明

请记住安装说明在每台设备上都是相同的：

1

hashtag
安装 Unsloth

首先，只需一条命令即可安装 Unsloth：

pip install unsloth

或者通过 pip 从源码安装最新代码：

pip install git+https://github.com/unslothai/unsloth

或者您可以直接从源码下载 Studio：

2

hashtag
设置 Unsloth Studio

unsloth studio setup

设置会自动安装 Node.js（通过 nvm）、构建前端、安装所有 Python 依赖项，并构建带 CUDA 支持的 llama.cpp。

circle-exclamation

首次安装可能需要 5-10 分钟。这是正常的，因为 llama.cpp 需要编译二进制文件。请不要取消它。 我们正在准备预编译二进制文件，这样下次就不会花那么长时间。

circle-info

WSL 用户： 您将被提示输入您的 sudo 密码以安装构建依赖项（cmake, git, libcurl4-openssl-dev).

3

hashtag
启动

通过以下方式启动 Unsloth Studio：

unsloth studio -H 0.0.0.0 -p 8888

然后打开 http://localhost:8888 在您的浏览器中。

4

hashtag
入门

首次启动时，您需要创建一个密码以保护您的账户并稍后再次登录。然后您会看到一个简短的入门向导，用于选择模型、数据集和基本设置。您可以随时跳过它。

5

hashtag
开始训练与运行

启动后即可立即开始微调和构建数据集。请参阅我们的逐步指南以开始使用 Unsloth Studio：

boltGet Startedchevron-right

hashtag
系统要求

hashtag
windows Windows

Unsloth Studio 可直接在 Windows 上运行，无需 WSL。要训练模型，请确保您的系统满足以下要求：

要求

  • Windows 10 或 Windows 11（64 位）

  • 已安装驱动程序的 NVIDIA GPU

  • 应用安装器 （包括 winget): 在此处arrow-up-right

  • Git: winget install --id Git.Git -e --source winget

  • Python：版本 3.11，直到但不包括 3.14

  • 在 Python 环境中工作，例如 uv, venv，或 conda/mamba

hashtag
apple MacOS

Unsloth Studio 在 Mac 设备上可用于 聊天 用于 GGUF 模型。MLX 训练即将推出！

  • macOS 12 Monterey 或更高版本（Intel 或 Apple Silicon）

  • 安装 Homebrew： 在此处arrow-up-right

  • Git： brew install git

  • cmake： brew install cmake

  • openssl： brew install openssl

  • Python：版本 3.11，直到但不包括 3.14

  • 在 Python 环境中工作，例如 uv, venv，或 conda/mamba

hashtag
linux Linux 与 WSL

  • Ubuntu 20.04+ 或类似发行版（64 位）

  • 已安装驱动程序的 NVIDIA GPU

  • CUDA 工具包（建议 12.4+，Blackwell 建议 12.8+）

  • Git： sudo apt install git

  • Python：版本 3.11，直到但不包括 3.14

  • 在 Python 环境中工作，例如 uv, venv，或 conda/mamba

hashtag
docker Docker

circle-exclamation

我们的 Docker 镜像仍在开发中，今天晚些时候会可用:

  • 拉取我们最新的 Unsloth 容器镜像： docker pull unsloth/unsloth

  • 通过以下方式运行容器：

欲了解更多信息， 见此处arrow-up-right.

  • 在以下地址访问您的 studio 实例： http://localhost:8000 或外部 IP 地址 http://external_ip_address:8000/

hashtag
microchip 仅 CPU

Unsloth Studio 仅支持用于 聊天 用于 GGUF 模型的 CPU 设备。

  • 与上面提到的 Linux（不包括 NVIDIA GPU 驱动）和 MacOS 的要求相同。

hashtag
google Google Colab

我们创建了一个 免费的 Google Colab 笔记本arrow-up-right ，以便您可以在 Colab 的 T4 GPU 上探索 Unsloth 的所有功能。您可以训练并运行大多数高达 22B 参数的模型，并在需要更大模型时切换到更大的 GPU。只需点击“全部运行”，安装完成后 UI 应会弹出。

circle-exclamation

在 T4 GPU 上编译 llama.cpp 需要 40+ 分钟，因此我们建议使用更大的 GPU 以获得更快速度。

LogoGoogle Colabcolab.research.google.comchevron-right

安装完成后，滚动到 启动 Unsloth Studio 并点击 打开 Unsloth Studio 在左侧白色框中显示：

hashtag
疑难解答

问题
解决方法

Python 版本错误

sudo apt install python3.12 python3.12-venv 版本 3.11，直到但不包括 3.14

找不到 nvidia-smi

从 https://www.nvidia.com/Download/index.aspx 安装 NVIDIA 驱动程序

找不到 nvcc （CUDA）

sudo apt install nvidia-cuda-toolkit 或添加 /usr/local/cuda/bin 到 PATH

llama-server 构建失败

非致命，Studio 仍可工作，但 GGUF 推理将不可用。安装 cmake 并重新运行设置以修复。

找不到 cmake

sudo apt install cmake

找不到 git

sudo apt install git

构建失败

删除 ~/.unsloth/llama.cpp 并重新运行设置

上一页Studio Chat下一页Data Recipes

最后更新于

这有帮助吗？