Docker 経由で Unsloth をインストール

すべての依存関係が事前にインストールされた当社のDockerコンテナの使用方法を学びます。セットアップ不要、実行するだけでトレーニングを開始できます！

UnslothのDockerイメージ： unsloth/unsloth

⚡ クイックスタート

1

DockerとNVIDIA Container Toolkitをインストールします。

Dockerをインストール（via） Linux または デスクトップ （その他）。 その後、次をインストールします NVIDIA Container Toolkit:

コピー

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

2

コンテナを実行します。

unsloth/unsloth はUnslothの唯一のDockerイメージです。Blackwellや50シリーズGPUでも同じイメージを使用します — 別のイメージは不要です。

コピー

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

3

Jupyter Labにアクセス

に移動します http://localhost:8888 そしてUnslothを開きます。

にアクセス unsloth-notebooks タブでUnslothのノートブックを確認できます。

4

Unslothでトレーニングを開始

初めての場合は、当社のステップバイステップの ファインチューニングガイド, RLガイド に従うか、または単に当社の事前作成された ノートブック.

を保存/コピーしてください。

• 📂 コンテナ構成 /workspace/work/

• — マウントされた作業ディレクトリ /workspace/unsloth-notebooks/

• — ファインチューニングの例ノートブック /home/unsloth/

— ユーザーホームディレクトリ

📖 使用例

フル例
  docker run -d -e JUPYTER_PORT=8000 \
  -e JUPYTER_PASSWORD="mypassword" \
  -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" \
  -e USER_PASSWORD="unsloth2024" \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

-p 8000:8000 -p 2222:22 \

SSHキーの設定

🦥Unslothコンテナの利点？

• 信頼性： 安定してメンテナンスされたパッケージバージョンを備えたキュレーションされた環境。圧縮でわずか7GB（他では10～11GB）

• 即使用可能： に事前インストールされたノートブック — マウントされた作業ディレクトリ

• セキュア： 非rootユーザーとして安全に実行されます

• ユニバーサル： すべてのトランスフォーマーベースのモデル（TTS、BERTなど）と互換

ssh -i ~/.ssh/container_key -p 2222 unsloth@localhost

• -p <host_port>:<container_port> Jupyter Lab：

• -p 8000:8888 SSHアクセス：

-v <local_folder>:<container_folder>

• 🔒 セキュリティ注意事項 unsloth コンテナはデフォルトで非root

• 使用する なし ユーザーとして実行されます

• コンテナ内でのsudo操作には、公開鍵認証が必要です