Docker で Unsloth をインストール

すべての依存関係が事前インストールされた当社の Docker コンテナの使い方を学び、すぐにインストールできます。セットアップ不要、実行してトレーニングを始めるだけです！

Unsloth の Docker イメージ: unsloth/unsloth

⚡ クイックスタート

1

Docker と NVIDIA Container Toolkit をインストールします。

Docker を以下からインストール Linux または デスクトップ （その他）。 次に以下をインストール NVIDIA Container Toolkit:

コピー

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

2

コンテナを実行します。

unsloth/unsloth は Unsloth の唯一の Docker イメージです。

コピー

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

3

Jupyter Lab にアクセス

以下に移動 http://localhost:8888 を開いて Unsloth を開きます。

アクセス unsloth-notebooks タブで Unsloth のノートブックを表示します。

4

Unsloth でトレーニングを開始

初めての方は、ステップごとの ファインチューニングガイド, RL ガイド に従うか、用意済みの ノートブック.

📂 コンテナ構成

• /workspace/work/ — マウントされた作業ディレクトリ

• /workspace/unsloth-notebooks/ — ファインチューニング用のサンプルノートブック

• /home/unsloth/ — ユーザーのホームディレクトリ

📖 使用例

完全な例

docker run -d -e JUPYTER_PORT=8000 \
  -e JUPYTER_PASSWORD="mypassword" \
  -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" \
  -e USER_PASSWORD="unsloth2024" \
  -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

SSH キーの設定

SSH キーペアがない場合:

🦥 なぜ Unsloth コンテナなのか？

• 信頼性: 安定してメンテナンスされたパッケージバージョンを備えた厳選環境。圧縮後わずか 7 GB（他では 10～11 GB）

• すぐに使える: に事前インストール済みのノートブック /workspace/unsloth-notebooks/

• 安全: 非 root ユーザーとして安全に実行

• 汎用: すべての transformer ベースのモデル（TTS、BERT など）と互換

⚙️ 詳細設定

• Jupyter Lab: -p 8000:8888

• SSH アクセス: -p 2222:22

🔒 セキュリティに関する注意

• コンテナはデフォルトで non-root unsloth ユーザーとして実行されます

• 使用 USER_PASSWORD コンテナ内で sudo 操作を行うには

• SSH アクセスには公開鍵認証が必要です