UnslothでWindows上でLLMをファインチューニングする方法（ステップバイステップガイド）

ローカルでLLMのファインチューニングを始めるために、WindowsにUnslothをインストールする方法を確認しましょう。

WSLを使わずに、ローカルのWindowsデバイス上でモデルを直接ファインチューニングできるようになりました。 Unsloth。このガイドでは、使用できる主な方法が3つあります（Conda, Docker および WSL）。すでにWindowsにPyTorchがインストールされている場合は、 pip install unsloth で動作するはずです。そうでない場合は、以下のガイドに従ってください：

Condaチュートリアル Dockerチュートリアル WSLチュートリアル

Unsloth Studio

という新しいWeb UIを公開しました。 Unsloth Studio これはWindows上でそのまま動作します：

irm https://unsloth.ai/install.ps1 | iex

その後、毎回起動するには：

unsloth studio -H 0.0.0.0 -p 8888

Unsloth Studio の詳細なインストール手順と要件については、ガイドをご覧ください.

以下は、元のUnsloth Coreのインストール手順です：

方法 #1 - Conda経由のWindows：

Miniconda（またはAnaconda）をインストールする

Anacondaをダウンロードこちら。おすすめは Minicondaを使うことです。まずPowershellを開きます - スタートで「Windows Powershell」を検索してください：

するとPowershellが開きます：

次に、以下をコピーして貼り付けます：CTRL+Cでコピーし、PowershellでCTRL+Vで貼り付けます：

Invoke-WebRequest -Uri "https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe" -OutFile ".\miniconda.exe"
Start-Process -FilePath ".\miniconda.exe" -ArgumentList "/S" -Wait
del .\miniconda.exe

警告を受け入れて「とにかく貼り付ける」を押し、待ちます。

以下のようにインストーラーをダウンロードしています：

インストール後、開いてください Anaconda Powershell Prompt スタート -> それを検索して、Minicondaを使います：

すると、次のように表示されます：

conda環境を作成する

conda create --name unsloth_env python==3.12 -y
conda activate unsloth_env

次のように表示されます：

確認する nvidia-smi GPUがあることを確認し、CUDAのバージョンを確認します

を入力すると nvidia-smi Powershellで、以下のような表示が見えるはずです。もし nvidia-smi がない、または下の内容が表示されない場合は、再インストールが必要です NVIDIAドライバー.

PyTorchをインストールする

を実行すると nvidia-smi 右上に「CUDA Version: 13.0」と表示されます。PowerShellでPyTorchをインストールします。変更してください 130 をあなたのCUDAバージョンに - のバージョンが存在することを確認し CUDAドライバーのバージョンと一致していることを確認してください。

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu130

次のように表示されます：

PyTorchをインストールした後、Pythonでこれを実行してみてください python ：

import torch
print(torch.cuda.is_available())
A = torch.ones((10, 10), device = "cuda")
B = torch.ones((10, 10), device = "cuda")
A @ B

10の行列が表示されるはずです。また、最初のものがTrueであることも確認してください。

Unslothをインストールする（PyTorchが動作する場合のみ！）

PyTorchが問題なく動作し実行できることを確認してください - もし動作しないならPyTorchが壊れており、残念ながらWindowsマシンではCUDAドライバーの再インストールが必要かもしれません。

Powershellで（Pythonを終了してから exit() 、実行して待ちます：

pip install unsloth

Unslothが動作することを確認する

次に、 Unslothノートブック内の任意のスクリプトを使うか（.pyファイルとして保存）、以下の基本スクリプトを使ってください：

from unsloth import FastLanguageModel, FastModel
import torch
from trl import SFTTrainer, SFTConfig
from datasets import load_dataset
max_seq_length = 512
url = "https://huggingface.co/datasets/laion/OIG/resolve/main/unified_chip2.jsonl"
dataset = load_dataset("json", data_files = {"train" : url}, split = "train")

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "unsloth/gemma-3-270m-it",
    max_seq_length = max_seq_length, # 長いコンテキストには任意の値を選択できます！
    load_in_4bit = True,  # 4ビット量子化。False = 16ビットLoRA。
    load_in_8bit = False, # 8ビット量子化
    load_in_16bit = False, # 16ビットLoRA
    full_finetuning = False, # 完全ファインチューニングに使用します。
    trust_remote_code = False, # 新しいモデルをサポートするには有効にします
    # token = "hf_...", # ゲート付きモデルを使う場合はこれを使用
)

# モデルのパッチ適用と高速LoRA重みの追加
model = FastLanguageModel.get_peft_model(
    model,
    r = 16,
    target_modules = ["q_proj", "k_proj", "v_proj", "o_proj",
                      "gate_proj", "up_proj", "down_proj",],
    lora_alpha = 16,
    lora_dropout = 0, # 何でもサポートしますが、= 0 が最適化されています
    bias = "none",    # 何でもサポートしますが、= "none" が最適化されています
    # [NEW] "unsloth" はVRAMを30%少なく使用し、2倍大きいバッチサイズに対応します！
    use_gradient_checkpointing = "unsloth", # 非常に長いコンテキストでは True または "unsloth"
    random_state = 3407,
    max_seq_length = max_seq_length,
    use_rslora = False,  # rank stabilized LoRAをサポートしています
    loftq_config = None, # LoftQもサポートしています
)

trainer = SFTTrainer(
    model = model,
    train_dataset = dataset,
    tokenizer = tokenizer,
    args = SFTConfig(
        max_seq_length = max_seq_length,
        per_device_train_batch_size = 2,
        gradient_accumulation_steps = 4,
        warmup_steps = 10,
        max_steps = 60,
        logging_steps = 1,
        output_dir = "outputs",
        optim = "adamw_8bit",
        seed = 3407,
        dataset_num_proc = 1,
    ),
)
trainer.train()

次のように表示されるはずです：

🦥 Unsloth: 2倍高速な無料ファインチューニングを有効にするために、コンピューターをパッチします。
🦥 Unsloth Zooが、学習を高速化するためにすべてをパッチします！
==((====))==  Unsloth 2026.1.4: Fast Gemma3 patching. Transformers: 4.57.6.
   \\   /|    NVIDIA GeForce RTX 3060. Num GPUs = 1. Max memory: 12.0 GB. Platform: Windows.
O^O/ \_/ \    Torch: 2.10.0+cu130. CUDA: 8.6. CUDA Toolkit: 13.0. Triton: 3.6.0
\        /    Bfloat16 = TRUE. FA [Xformers = 0.0.34. FA2 = False]
 "-____-"     Free license: http://github.com/unslothai/unsloth
Unsloth: 高速ダウンロードが有効です - 赤色のダウンロードバーは無視してください！
Unsloth: Gemma3はSDPAをサポートしていません - fast eagerに切り替えています。
Unsloth: `model.base_model.model.model` に勾配を必要とさせています
Unsloth: Tokenizing ["text"] (num_proc=1):   0%|                 | 0/210289 [00:00<?, ? examples/s]�  Unsloth: 2倍高速な無料ファインチューニングを有効にするために、コンピューターをパッチします。
🦥 Unsloth: 2倍高速な無料ファインチューニングを有効にするために、コンピューターをパッチします。

そして学習：

方法 #2 - Docker：

Dockerは、セットアップ不要で依存関係の問題もないため、WindowsユーザーがUnslothを始める最も簡単な方法かもしれません。 unsloth/unsloth はUnslothの唯一のDockerイメージです。 Blackwell および50シリーズGPUでは、この同じイメージを使ってください - 別のイメージは不要です。

インストール手順については、 Dockerガイドに従ってください。そうでない場合は、簡単な開始ガイドを以下に示します：

DockerとNVIDIA Container Toolkitをインストールします。

Dockerを経由してインストール Linux または Desktop （その他）。その後、 NVIDIA Container Toolkit:

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

コンテナを実行します。

unsloth/unsloth はUnslothの唯一のDockerイメージです。

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

Jupyter Labにアクセス

に移動して http://localhost:8888 を開き、Unslothを開いてください。 unsloth-notebooks タブにアクセスしてUnslothのノートブックを表示します。

Unslothで学習を開始する

初めての方は、ステップごとのファインチューニングガイド, RLガイドまたは、あらかじめ用意されたノートブック.

を保存/コピーしてください

Dockerの問題 - GPUが検出されない？ Windows

WSLを試してみてください

方法 #3 - WSL：

コマンドプロンプトまたはターミナルを開いてUbuntuをインストールします。求められたらパスワードを設定してください。

wsl.exe --install Ubuntu-24.04
wsl.exe -d Ubuntu-24.04

(1) を行っていない場合、すでにWSLをインストールしているので、を入力してWSLに入ります wsl をコマンドプロンプトで入力してENTER

wsl

Pythonをインストールする

sudo apt update
sudo apt install python3 python3-full python3-pip python3-venv -y

PyTorchをインストールする

pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130

権限の問題が発生した場合は、 –break-system-packages を使用してください。 pip install torch torchvision --force-reinstall --index-url https://download.pytorch.org/whl/cu130 –break-system-packages

UnslothとJupyter Notebookをインストールする

pip install unsloth jupyter

権限の問題が発生した場合は、 –-break-system-packages を使用してください。 pip install unsloth jupyter –-break-system-packages

Jupyter Notebook経由でUnslothを起動する

jupyter notebook

その後、 Unslothノートブック内で私たちのノートブックを開いて読み込みます！ Colabのノートブックに行ってダウンロード > .ipynbをダウンロードし、それを読み込むこともできます。

GRPOを使用している、またはvLLMを使う予定がある場合、現時点ではvLLMはWindowsを直接サポートしておらず、WSLまたはLinux経由のみです。

トラブルシューティング / 詳細設定

については 詳細なインストール手順 または、インストール中に奇妙なエラーが表示される場合：

インストール torch および triton。インストールするには https://pytorch.org にアクセスしてください。例えば pip install torch torchvision torchaudio triton
CUDAが正しくインストールされているか確認してください。試しに nvccを実行してください。失敗する場合は、 cudatoolkit またはCUDAドライバーをインストールする必要があります。
Intel GPUを使用している場合は、 Intel Windowsガイド
インストール xformers に手動で従う必要があります。インストールを試してみて vllm が成功するか確認できます。 vllm が xformers で成功したか確認してください python -m xformers.info https://github.com/facebookresearch/xformers にアクセスしてください。もう1つの選択肢は、 flash-attn をAmpere GPU向けにインストールすることです。
Python、CUDA、CUDNN、 torch, triton、および xformers の各バージョンが互換性があることを再確認してください。 PyTorch Compatibility Matrix が役立つかもしれません。
最後に、 bitsandbytes をインストールし、 python -m bitsandbytes

前へMacOS 次へDocker

最終更新 7 日前

役に立ちましたか？

hashtagUnsloth Studio

hashtag方法 #1 - Conda経由のWindows：

hashtag方法 #2 - Docker：

hashtagWSLを試してみてください

hashtagトラブルシューティング / 詳細設定

Unsloth Studio

方法 #1 - Conda経由のWindows：

方法 #2 - Docker：

WSLを試してみてください

トラブルシューティング / 詳細設定