DockerでUnslothをインストール

依存関係がすべて事前インストールされたDockerコンテナを使って、すぐにインストールできる方法を学びましょう。セットアップは不要で、実行して学習を始めるだけです！

UnslothのDockerイメージ： unsloth/unsloth

⚡ クイックスタート

1

DockerとNVIDIA Container Toolkitをインストールします。

Dockerをインストール： Linux または デスクトップ （その他）。 その後、 NVIDIA Container Toolkit:

コピー

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

2

コンテナを実行します。

unsloth/unsloth は、Unsloth唯一のDockerイメージです。

コピー

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

3

Jupyter Labにアクセス

へ移動して http://localhost:8888 を開き、Unslothを起動します。

にアクセスして unsloth-notebooks タブを開くと、Unslothのノートブックが表示されます。

4

Unslothで学習を開始する

初めての方は、ステップごとの ファインチューニングガイド, RLガイド を参照するか、用意済みの ノートブック.

📂 コンテナ構成

• /workspace/work/ — マウントされた作業ディレクトリ

• /workspace/unsloth-notebooks/ — ファインチューニング用のサンプルノートブック

• /home/unsloth/ — ユーザーのホームディレクトリ

📖 使用例

完全な例

docker run -d -e JUPYTER_PORT=8000 \
  -e JUPYTER_PASSWORD="mypassword" \
  -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" \
  -e USER_PASSWORD="unsloth2024" \
  -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

SSHキーの設定

SSHキーペアを持っていない場合：

🦥 なぜUnslothコンテナなのか？

• 信頼性: 安定して保守されたパッケージバージョンを備えた厳選環境。圧縮サイズはわずか7 GB（他では10〜11 GB）

• すぐに使える: 事前インストール済みのノートブックが /workspace/unsloth-notebooks/

• 安全: 非rootユーザーとして安全に実行

• 汎用: すべてのトランスフォーマーベースのモデル（TTS、BERTなど）と互換

UnslothがGPUを検出していない、または使用していない

DockerでモデルがGPUを特に使用していない場合は、次を試してください：

最新イメージを手動で取得：

• GPUアクセスを有効にしてコンテナを起動：

  • docker run: --gpus all

  • Docker Compose： capabilities: [gpu]

• Linuxでは、NVIDIA Container Toolkitがインストールされていることを確認してください。

• Windowsでは：

  • 次を確認してください nvcc --version が、以下に表示されるCUDAのバージョンと一致することを nvidia-smi

  • こちらに従ってください： https://docs.docker.com/desktop/features/gpu/

⚙️ 詳細設定

• Jupyter Lab： -p 8000:8888

• SSHアクセス： -p 2222:22

🔒 セキュリティ नोट

• コンテナはデフォルトで非rootとして実行されます unsloth ユーザー

• 使用 USER_PASSWORD コンテナ内でsudo操作を行うために

• SSHアクセスには公開鍵認証が必要です