search
DiscordRedditNewsletter

docker通过 Docker 安装 Unsloth

使用我们的官方 Docker 容器安装 Unsloth

了解如何使用我们的 Docker 容器，所有依赖已预装，可立即安装。无需设置，运行即可开始训练！

Unsloth Docker 镜像： unsloth/unslotharrow-up-right

circle-check

您现在可以使用我们的主 Docker 镜像 unsloth/unsloth 用于 Blackwell 和 50 系列 GPU — 无需单独镜像。

hashtag
⚡ 快速入门

1

安装 Docker 和 NVIDIA 容器工具包。

通过以下方式安装 Docker Linuxarrow-up-right 或 桌面arrow-up-right （其他）。 然后安装 NVIDIA 容器工具包arrow-up-right:

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}
2

运行容器。

unsloth/unslotharrow-up-right 是 Unsloth 的唯一 Docker 镜像。对于 Blackwell 和 50 系列 GPU，使用相同的镜像 - 无需单独镜像。

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth
3

访问 Jupyter Lab

前往 http://localhost:8888arrow-up-right 并打开 Unsloth。

访问 unsloth-notebooks 选项卡以查看 Unsloth 笔记本。

4

使用 Unsloth 开始训练

如果您是新手，请按照我们的逐步 微调指南, 强化学习 指南 或只需保存/复制我们的任何预制 笔记本.

hashtag
📂 容器结构

  • /workspace/work/ — 您挂载的工作目录

  • /workspace/unsloth-notebooks/ — 示例微调笔记本

  • /home/unsloth/ — 用户主目录

hashtag
📖 使用示例

hashtag
完整示例

docker run -d -e JUPYTER_PORT=8000 \
  -e JUPYTER_PASSWORD="mypassword" \
  -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" \
  -e USER_PASSWORD="unsloth2024" \
  -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

hashtag
设置 SSH 密钥

如果您没有 SSH 密钥对：

hashtag
🦥 为什么选择 Unsloth 容器？

  • 可靠： 精心挑选的环境，包版本稳定且维护良好。压缩后仅 7 GB（而其他处为 10–11 GB）

  • 开箱即用： 预装的笔记本位于 /workspace/unsloth-notebooks/

  • 安全： 以非 root 用户安全运行

  • 通用： 与所有基于 Transformer 的模型兼容（TTS、BERT 等）

hashtag
⚙️ 高级设置

变量
说明
默认值

JUPYTER_PASSWORD

Jupyter Lab 密码

unsloth

JUPYTER_PORT

容器内的 Jupyter Lab 端口

8888

SSH_KEY

用于认证的 SSH 公钥

无

USER_PASSWORD

的密码 unsloth 用户（sudo）

unsloth

  • Jupyter Lab： -p 8000:8888

  • SSH 访问： -p 2222:22

circle-exclamation

重要： 使用卷挂载以在容器运行之间保留您的工作。

hashtag
🔒 安全说明

  • 容器默认以非 root 身份运行 unsloth 用户

  • 使用 USER_PASSWORD 在容器内执行 sudo 操作

  • SSH 访问需要公钥认证

上一页Installation下一页Updating

最后更新于

这有帮助吗？