desktop-arrow-down通过 pip 和 uv 安装 Unsloth

要通过 Pip 在本地安装 Unsloth,请按照以下步骤操作:

推荐的安装方法

使用 pip 安装(推荐)以获取最新的 pip 版本:

pip install unsloth

使用方法 uv:

pip install --upgrade pip && pip install uv
uv pip install unsloth

安装方法 vLLM 和 Unsloth 一起,执行:

uv pip install unsloth vllm

要安装 Unsloth 的最新主分支 ,请执行:

pip install unsloth
pip uninstall unsloth unsloth_zoo -y && pip install --no-deps git+https://github.com/unslothai/unsloth_zoo.git && pip install --no-deps git+https://github.com/unslothai/unsloth.git

关于 venv 和虚拟环境安装 为将安装隔离以避免破坏系统包,并减少对系统的不可修复损害,请使用 venv:

apt install python3.10-venv python3.11-venv python3.12-venv python3.13-venv -y
python -m venv unsloth_env
source unsloth_env/bin/activate
pip install --upgrade pip && pip install uv
uv pip install unsloth

如果你在 Jupyter、Colab 或其他笔记本中安装 Unsloth,请确保在命令前加上 !。在使用终端时不需要这样做

circle-info

现在支持 Python 3.13 了!

卸载或重新安装

如果你仍然遇到 Unsloth 的依赖问题,许多用户通过强制卸载并重新安装 Unsloth 解决了问题:


高级 Pip 安装

circle-exclamation

Pip 要复杂一些,因为存在依赖问题。对于 torch 2.2、2.3、2.4、2.5 和 CUDA 版本,pip 命令有所不同。

对于其他 torch 版本,我们支持 torch211, torch212, torch220, torch230, torch240 对于 CUDA 版本,我们支持 cu118cu121cu124。对于 Ampere 设备(A100、H100、RTX3090)及更高版本,使用 cu118-amperecu121-amperecu124-ampere.

例如,如果你有 torch 2.4CUDA 12.1,使用:

另一个例子,如果你有 torch 2.5CUDA 12.4,使用:

以及其他示例:

或者,在终端运行下面的命令以获取 最佳的 pip 安装命令:

或者,在 Python 交互式解释器中手动运行下面的代码:

最后更新于

这有帮助吗?