Qwen3.5 ファインチューニングガイド

Unsloth を使って Qwen3.5 LLM をファインチューニングする方法を学びましょう。

これでファインチューニングできます Qwen3.5 モデルファミリー（0.8B、2B、4B、9B、27B、35B‑A3B、122B‑A10B）を Unsloth。サポートにはビジョン、テキスト、 RL のファインチューニングの両方が含まれます。 Qwen3.5‑35B‑A3B - bf16 LoRA は 74GB の VRAM で動作します。

Unsloth を使うと Qwen3.5 の学習が 1.5倍高速 になり、 VRAM 使用量が50%少なく なります。FA2 構成と比べて。
Qwen3.5 bf16 LoRA の VRAM 使用量： 0.8B：3GB ・ 2B：5GB ・ 4B：10GB ・ 9B：22GB ・ 27B：56GB
ファインチューニング 0.8B, 2B と 4B bf16 LoRA を私たちの 無料の Google Colab ノートブックを通じて:

もし 推論能力を維持したい の機能では、推論スタイルの例と直接回答を混在できます（推論を最低75%に保ってください）。それ以外の場合は完全に出力できます。
フルファインチューニング（FFT） も動作します。VRAM は4倍多く使用される点に注意してください。
Qwen3.5 は201言語をサポートしているため、多言語ファインチューニングに強力です。
ファインチューニング後は、 GGUF （llama.cpp/Ollama など用）または vLLM
強化学習（RL）を Qwen3.5 で VLM RL も Unsloth inference 経由で動作します。
私たちは A100 Colab ノートブックを Qwen3.5‑27B と Qwen3.5‑35B‑A3B.

古いバージョンを使っている場合（またはローカルでファインチューニングする場合）は、先に更新してください：

Unsloth Studio：

unsloth studio update

Unsloth コードベース：

pip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo

以下を使用してください transformers v5 Qwen3.5 では旧バージョンは動作しません。Unsloth は現在、デフォルトで transformers v5 を自動的に使用します（Colab 環境を除く）。

学習が 通常より遅いように見える場合、それは Qwen3.5 がカスタムの Mamba Triton カーネルを使用しているためです。これらのカーネルのコンパイルは通常より時間がかかることがあり、特に T4 GPU では顕著です。

量子化差が通常より大きいため、Qwen3.5 モデルでは MoE か dense かに関わらず QLoRA（4-bit）学習を行うことは推奨されません。

MoE ファインチューニング（35B、122B）

次のような MoE モデルでは Qwen3.5‑35B‑A3B / 122B‑A10B / 397B‑A17B:

私たちの Qwen3.5‑35B‑A3B（A100）ファインチューニング用ノートブックを使用できます
最近の約12倍高速な MoE 学習アップデートに対応しており、VRAM を35%以上削減し、コンテキスト長を約6倍に拡張できます
bf16 構成（例：LoRA またはフルファインチューニング）の使用を推奨します （MoE QLoRA 4-bit は BitsandBytes の制限により推奨されません）。
Unsloth の MoE カーネルはデフォルトで有効で、異なるバックエンドを使用できます。 UNSLOTH_MOE_BACKEND.
の切り替えで変更できます。安定性のため、ルーター層のファインチューニングはデフォルトで無効です。
Qwen3.5‑122B‑A10B - bf16 LoRA は256GB の VRAM で動作します。マルチ GPU を使う場合は、 device_map = "balanced" を追加するか、私たちのマルチGPU ガイド.

クイックスタート

🦥 Unsloth Studio ガイド

Qwen3.5 は、 Unsloth Studioで実行およびファインチューニングできます。これはローカル AI 向けの新しいオープンソース Web UI です。Unsloth Studio を使えば、モデルをローカルで MacOS、Windows、Linux 上で、そして：

LLM を学習 VRAM 70%削減で2倍高速に
検索、ダウンロード、 GGUF を実行および safetensor モデル
自己修復 ツール呼び出し + ウェブ検索
コード実行 （Python、Bash）
自動推論パラメータ調整（temp、top-p など）
llama.cpp による高速な CPU + GPU 推論

Unsloth をインストール

ターミナルで実行：

MacOS、Linux、WSL：

curl -fsSL https://unsloth.ai/install.sh | sh

Windows PowerShell：

irm https://unsloth.ai/install.ps1 | iex

インストールはすぐに終わり、約1〜2分かかります。

Unsloth を起動

MacOS、Linux、WSL、Windows：

unsloth studio -H 0.0.0.0 -p 8888

次に http://localhost:8888 をブラウザで開いてください。

Qwen3.5 を学習

初回起動時には、アカウントを保護するためのパスワードを作成し、後で再度サインインする必要があります。その後、モデル、データセット、基本設定を選ぶ簡単なオンボーディングウィザードが表示されます。いつでもスキップできます。

検索バーで Qwen3.5 を検索し、希望するモデルとデータセットを選択してください。次に、ハイパーパラメータとコンテキスト長を必要に応じて調整します。

学習の進捗を監視

学習開始をクリックすると、モデルの学習進捗を監視・確認できます。学習損失は着実に減少していくはずです。完了すると、モデルは自動的に保存されます。

ファインチューニング済みモデルをエクスポート

完了すると、Unsloth Studio でモデルを GGUF、safetensor などの形式にエクスポートできます。

Unsloth Core（コードベース）ガイド：

以下は最小限の SFT レシピです（「テキストのみ」のファインチューニングで動作します）。また、私たちの Vision のファインチューニングセクションもご覧ください。

Qwen3.5 は「Vision Encoder 付き因果言語モデル」（統合 VLM）なので、通常のビジョン依存関係（torchvision, pillow）が必要ならインストールし、Transformers は最新に保ってください。Qwen3.5 には最新の Transformers を使用してください。

もし GRPOをやりたいなら、高速 vLLM 推論を無効にして Unsloth 推論を使えば Unsloth で動作します。私たちの Vision RL ノートブック例に従ってください。

from unsloth import FastLanguageModel
import torch
from datasets import load_dataset
from trl import SFTTrainer, SFTConfig

max_seq_length = 2048  # まずは小さく始め、動作したら拡大してください

# サンプルデータセット（自分のものに置き換えてください）。「text」列が必要です。
url = "https://huggingface.co/datasets/laion/OIG/resolve/main/unified_chip2.jsonl"
dataset = load_dataset("json", data_files={"train": url}, split="train")

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "Qwen/Qwen3.5-27B",
    max_seq_length = max_seq_length,
    load_in_4bit = False,     # MoE QLoRA は推奨されませんが、dense 27B なら問題ありません
    load_in_16bit = True,     # bf16/16-bit LoRA
    full_finetuning = False,
)

model = FastLanguageModel.get_peft_model(
    model,
    r = 16,
    target_modules = [
        "q_proj", "k_proj", "v_proj", "o_proj",
        "gate_proj", "up_proj", "down_proj",
    ],
    lora_alpha = 16,
    lora_dropout = 0,
    bias = "none",
    # 「unsloth」チェックポイント方式は非常に長いコンテキスト + 低 VRAM 向けです
    use_gradient_checkpointing = "unsloth",
    random_state = 3407,
    max_seq_length = max_seq_length,
)

trainer = SFTTrainer(
    model = model,
    train_dataset = dataset,
    tokenizer = tokenizer,
    args = SFTConfig(
        max_seq_length = max_seq_length,
        per_device_train_batch_size = 1,
        gradient_accumulation_steps = 4,
        warmup_steps = 10,
        max_steps = 100,
        logging_steps = 1,
        output_dir = "outputs_qwen35",
        optim = "adamw_8bit",
        seed = 3407,
        dataset_num_proc = 1,
    ),
)

trainer.train()

OOM が発生したら：

下げる per_device_train_batch_size を 1 および/または下げる max_seq_length.
有効にしたままにする use_gradient_checkpointing="unsloth" （VRAM 使用量を減らし、コンテキスト長を延ばすよう設計されています）。

MoE（bf16 LoRA）用ローダー例：

import os
import torch
from unsloth import FastModel

model, tokenizer = FastModel.from_pretrained(
    model_name = "unsloth/Qwen3.5-35B-A3B",
    max_seq_length = 2048,
    load_in_4bit = False,     # MoE QLoRA は推奨されませんが、dense 27B なら問題ありません
    load_in_16bit = True,     # bf16/16-bit LoRA
    full_finetuning = False,
)

読み込んだら、LoRA アダプタを追加し、上の SFT 例と同様に学習します。

ビジョンのファインチューニング

Unsloth は Vision のファインチューニングマルチモーダル Qwen3.5 モデルをサポートしています。以下の Qwen3.5 ノートブックを使用し、各モデル名を希望する Qwen3.5 モデルに変更してください。

Qwen3.5-0.8B

Qwen3.5-2B

Qwen3.5-4B

Qwen3.5-9B

Qwen3-VL GRPO/GSPO RL ノートブック（モデル名を Qwen3.5-4B などに変更）

ビジョン / テキストのみのファインチューニングを無効化：

ビジョンモデルをファインチューニングするために、現在はモデルのどの部分をファインチューニングするかを選べます。ビジョン層のみ、言語層のみ、あるいは attention / MLP 層のみをファインチューニングすることも可能です！デフォルトではすべて有効になっています！

model = FastVisionModel.get_peft_model(
    model,
    finetune_vision_layers     = True, # Vision レイヤーをファインチューニングしないなら False
    finetune_language_layers   = True, # Language レイヤーをファインチューニングしないなら False
    finetune_attention_modules = True, # Attention レイヤーをファインチューニングしないなら False
    finetune_mlp_modules       = True, # MLP レイヤーをファインチューニングしないなら False

    r = 16,                           # 大きいほど精度は上がるが、過学習する可能性があります
    lora_alpha = 16,                  # 少なくとも alpha == r を推奨
    lora_dropout = 0,
    bias = "none",
    random_state = 3407,
    use_rslora = False,               # rank stabilized LoRA をサポートしています
    loftq_config = None,               # LoftQ も利用可能
    target_modules = "all-linear",    # ここではオプションです！必要ならリストを指定できます
    modules_to_save=[
        "lm_head",
        "embed_tokens",
    ],
)

マルチ画像で Qwen3.5 をファインチューニングまたは学習するには、私たちの マルチ画像ビジョンガイド.

強化学習（RL）

Qwen3.5 を RL、GSPO、GRPO などで学習できるようになりました。無料ノートブック:

Google Colabcolab.research.google.com

vLLM ではサポートされていませんが、次を設定することで Unsloth で Qwen3.5 RL を実行できます： fast_inference=False をモデル読み込み時に設定してください：

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="unsloth/Qwen3.5-4B",
    fast_inference=False,
)

ファインチューニング済みモデルの保存 / エクスポート

以下について、各種推論 / デプロイガイドをご覧いただけます Unsloth Studio, llama.cpp, vLLM, llama-server, Ollama.

GGUF に保存

Unsloth は GGUF への直接保存をサポートしています:

model.save_pretrained_gguf("directory", tokenizer, quantization_method = "q4_k_m")
model.save_pretrained_gguf("directory", tokenizer, quantization_method = "q8_0")
model.save_pretrained_gguf("directory", tokenizer, quantization_method = "f16")

または GGUF を Hugging Face にプッシュします:

model.push_to_hub_gguf("hf_username/directory", tokenizer, quantization_method = "q4_k_m")
model.push_to_hub_gguf("hf_username/directory", tokenizer, quantization_method = "q8_0")

エクスポートしたモデルが別のランタイムで悪化する場合、Unsloth は最も一般的な原因を示します: 推論時のチャットテンプレート / EOS トークンの誤り （学習時と同じチャットテンプレートを使用する必要があります）。

vLLM に保存

vLLM バージョン 0.16.0 は Qwen3.5 をサポートしていません。 0.170 まで待つか、Nightly リリースを試してください。

vLLM 用に16-bitで保存するには、次を使用します：

model.save_pretrained_merged("finetuned_model", tokenizer, save_method = "merged_16bit")
## または HuggingFace にアップロードするには：
model.push_to_hub_merged("hf/model", tokenizer, save_method = "merged_16bit", token = "")

LoRA アダプターだけを保存するには、次のいずれかを使用します：

model.save_pretrained("finetuned_lora")
tokenizer.save_pretrained("finetuned_lora")

または、組み込み関数を使用します：

model.save_pretrained_merged("finetuned_model", tokenizer, save_method = "lora")
## または HuggingFace にアップロードするには
model.push_to_hub_merged("hf/model", tokenizer, save_method = "lora", token = "")

詳細は推論ガイドをご覧ください:

🖥️推論とデプロイ GGUF & llama.cpp

Model Export vLLM

前へQwen3.5 次へQwen3.5 GGUF ベンチマーク

最終更新 1 か月前

役に立ちましたか？