For the complete documentation index, see llms.txt. This page is also available as Markdown.

在 Windows 上安装 Unsloth

在 Windows 上安装 Unsloth Desktop、Unsloth Studio 或 Unsloth Core。

要在 Windows 上安装 Unsloth Desktop,请按以下步骤操作。

2

安装

  1. 打开 Unsloth 安装程序(.exe 文件)

  2. 按照安装提示进行操作

  3. 启动应用并等待安装完成

3

选择一个模型

打开“选择模型”或“模型中心”,选择一个模型和量化方式,然后下载。完成后即可开始聊天——无需设置。

4

Unsloth 现已就绪

要开始聊天,请输入消息并按 Enter。

  • 连接工具: Claude Code, Codex、网页搜索、 MCP 等更多

  • 训练模型: 微调文本、扩散、嵌入等更多模型

  • 生成媒体: 在本地创建并训练图像、视频、TTS

手动安装 Unsloth

下面的部分涵盖基于网页的 Unsloth Studio 以及原始的基于代码的 Unsloth Core.

对于 Unsloth Core 在 Windows 上,请在下面选择 Conda、Docker 或 WSL。如果 PyTorch 已经安装, pip install unsloth 可能就足够了。

Conda 教程Docker 教程WSL 教程

Unsloth Studio

下面是安装我们 Web UI 的命令 Unsloth Studio

PowerShell:

irm https://unsloth.ai/install.ps1 | iex

使用相同命令进行更新。

Winget:

winget install --id UnslothAI.Unsloth -e
winget upgrade --id UnslothAI.Unsloth -e

启动:

unsloth studio
unsloth studio --secure

有关详细的 Unsloth Studio 安装说明和要求, 查看我们的指南.

下面是原始版本的安装说明 Unsloth Core:

方法 #1 - 通过 Conda 在 Windows 上:

1

安装 Miniconda(或 Anaconda)

下载 Anaconda 这里. 我们的建议是使用 Miniconda. 要使用它,首先进入 PowerShell——在“开始”中搜索“Windows PowerShell”:

然后它会打开 PowerShell:

然后复制粘贴下面内容:CTRL+C,再在 PowerShell 中粘贴 CTRL+V:

接受警告并点击“仍然粘贴”,然后等待。

它正在如下下载安装程序:

安装后,打开 open Anaconda PowerShell Prompt 要通过“开始”→搜索来使用 Miniconda:

然后你会看到:

2

创建 conda 环境

你会看到:

3

检查 nvidia-smi 以确认你有 GPU,并查看 CUDA 版本

输入后 nvidia-smi 在 PowerShell 中,你应该会看到如下内容。如果你没有 nvidia-smi ,或者下面的内容无法弹出,你需要重新安装 NVIDIA 驱动.

4

安装 PyTorch

运行时 nvidia-smi 你会在右上角看到:“CUDA Version: 13.0”。在 PowerShell 中通过以下方式安装 PyTorch。将 130 到你的 CUDA 版本——确保该 版本存在 并与你的 CUDA 驱动版本匹配。

你会看到:

尝试在 Python 中通过以下方式运行它: python 在安装 PyTorch 后:

你应该会看到一个全是 10 的矩阵。同时确认第一个返回 True。

5

安装 Unsloth(仅当 PyTorch 正常工作时!)

在 PowerShell 中(通过以下方式退出 Python 后 exit() ,执行并等待:

6

验证 Unsloth 是否可用

现在使用其中任意脚本 Unsloth 笔记本 (保存为 .py 文件),或者使用下面的基础脚本:

你应该会看到:

以及训练:

方法 #2 - Docker:

对于 Windows 用户来说,Docker 可能是开始使用 Unsloth 的最简单方式,因为无需设置,也没有依赖问题。 unsloth/unsloth 是 Unsloth 唯一的 Docker 镜像。对于 Blackwell 和 50 系列 GPU,请使用同一个镜像——无需单独镜像。

有关安装说明,请参阅我们的 Docker 指南,否则这里有一个快速入门指南:

1

安装 Docker 和 NVIDIA Container Toolkit。

通过以下方式安装 Docker Linux 或者 桌面版 (其他)。然后安装 NVIDIA Container Toolkit:

2

运行容器。

unsloth/unsloth 是 Unsloth 唯一的 Docker 镜像。

3

访问 Jupyter Lab

前往 http://localhost:8888 并打开 Unsloth。访问 unsloth-notebooks 选项卡以查看 Unsloth 笔记本。

4

开始使用 Unsloth 训练

如果你是新手,请按照我们的分步 微调指南, RL 指南 或者只需保存/复制我们预制的任意 笔记本.

5

Docker 问题——未检测到 GPU?

试试通过以下方式使用 WSL Windows

方法 #3 - WSL:

1

安装 WSL

打开命令提示符或终端,并安装 Ubuntu。如果提示,请设置密码。

2

如果你没有执行 (1),也就是你已经安装了 WSL,通过输入以下命令进入 WSL wsl 并在命令提示符中按 ENTER

3

安装 Python

4

安装 PyTorch

如果遇到权限问题,请使用 –break-system-packages 因此 pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 –break-system-packages

5

安装 Unsloth 和 Jupyter Notebook

如果遇到权限问题,请使用 –-break-system-packages 因此 pip install unsloth jupyter –-break-system-packages

6

通过 Jupyter Notebook 启动 Unsloth

然后在其中打开我们的笔记本 Unsloth 笔记本并将它们加载进来!你也可以前往 Colab 笔记本,下载 > 下载 .ipynb,然后加载它们。

故障排除 / 高级

对于 高级安装说明 或者如果你在安装期间看到奇怪的错误:

  1. 安装 torch 和 triton. 前往 https://pytorch.org 安装它。例如 pip install torch torchvision torchaudio triton

  2. 确认 CUDA 是否安装正确。试试 nvcc. 如果失败,你需要安装 cudatoolkit 或 CUDA 驱动。

  3. 如果使用 Intel GPU,你需要遵循我们的 Intel Windows 指南

  4. 安装 xformers 手动安装。你可以尝试安装 vLLM 并查看是否 vLLM 成功。检查是否 xformers 已通过 python -m xformers.info 前往 https://github.com/facebookresearch/xformers。另一个选择是安装 flash-attn 用于 Ampere GPU。

  5. 再次检查你的 Python、CUDA、CUDNN、 torch, triton、和 xformers 彼此是否兼容。 PyTorch 兼容性矩阵 可能会有帮助。

  6. 最后,安装 bitsandbytes 并用以下方式检查它 python -m bitsandbytes

  7. 如果 Unsloth 没有检测到或使用你的 GPU,并且你在 Windows 上使用我们的 Docker 容器,那么你的 CUDA 工具包版本 nvcc --version 应与主机上 nvidia-smi 显示的 CUDA 版本匹配。Windows 上 Docker 容器的 GPU 支持并不是自动的。 你需要遵循 Docker 的指南.

卸载

Unsloth Desktop

  1. 如果 Unsloth 正在运行,请将其关闭。

  2. 打开 设置 在 Windows 中。

  3. 前往 应用 → 已安装的应用.

  4. 找到 Unsloth,选择三点菜单,然后选择 卸载.

  5. 按照提示删除该应用。

卸载 Unsloth Desktop 不会删除已下载的模型或你的文件。

Unsloth Studio(手动安装)

完全移除 Unsloth Studio 的推荐方式是使用适用于你操作系统的卸载脚本。它会停止任何正在运行的服务器,移除应用、CLI 命令、启动器数据、快捷方式以及平台特定条目(macOS .app 捆绑包 + Launch Services;Windows 开始菜单 + 注册表 + PATH):

手动卸载

如果你只想删除特定部分:

1. 仅删除应用 (保留历史记录、聊天、检查点和导出内容):

  • Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"

2. 完全删除 Unsloth (保留其他 Unsloth 工具):

  • Remove-Item -Recurse -Force "$HOME\.unsloth\studio"

3. 删除所有与 Unsloth 相关的内容:

  • Remove-Item -Recurse -Force "$HOME\.unsloth"

4. 删除快捷方式和符号链接:

5. 删除 CLI 命令:

  • Windows(PowerShell): 安装程序已将虚拟环境的 Scripts 目录添加到你的用户 PATH 中。要移除它,请打开 设置 → 系统 → 关于 → 高级系统设置 → 环境变量,找到 Path 在“用户变量”下,并删除指向以下位置的条目 .unsloth\studio\...\Scripts.

注意:第 1-5 步不会影响你已下载的 HF 模型文件。如果你想释放那部分空间,请参阅下面的删除缓存的 HF 模型文件。

删除缓存的 HF 模型文件

你可以通过模型搜索中的垃圾桶图标删除旧模型文件,或者从默认的 Hugging Face 缓存目录中删除相关的缓存模型文件夹。默认情况下,Hugging Face 使用 ~/.cache/huggingface/hub/ 在 macOS/Linux/WSL 上使用 C:\Users\<username>\.cache\huggingface\hub\ 在 Windows 上使用。

  • Windows: %USERPROFILE%\.cache\huggingface\hub\

如果 HF_HUB_CACHE 或者 HF_HOME 已设置,则改用该位置。在 Linux 和 WSL 上, XDG_CACHE_HOME 也可以更改默认缓存根目录。

最后更新于

这有帮助吗?