> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/moderu/muse-glimmer/train.md). # Muse Glimmerファインチューニングガイド UnslothでMetaのMuse Glimmer 30Bモデルを学習します。 Meta の Muse Glimmer 30B パラメータのエージェント型モデルで、ファインチューニングと強化学習（RL）を行えます [Unsloth](https://github.com/unslothai/unsloth). Muse Glimmer は視覚に対応しており、Unsloth により 24GB VRAM でローカル学習でき、視覚・テキスト・音声・RL 学習をサポートします。 * Unsloth で Muse Glimmer を学習 **約1.5倍高速に** を **約50%少ないVRAM** FA2 設定よりも（精度低下なし） * Muse Glimmerをファインチューニング するには、 **無料の** **Kaggleノートブック**: | [**視覚 + テキスト**](https://www.kaggle.com/notebooks/welcome?src=https://github.com/unslothai/notebooks/blob/main/nb/Kaggle-Muse_Glimmer_\(30B\)-Vision.ipynb\&accelerator=nvidiaTeslaT4) | [**RL GRPO**](https://www.kaggle.com/notebooks/welcome?src=https://github.com/unslothai/notebooks/blob/main/nb/Kaggle-Muse_Glimmer_\(30B\)-GRPO.ipynb\&accelerator=nvidiaTeslaT4) | [**対話型**](https://www.kaggle.com/notebooks/welcome?src=https://github.com/unslothai/notebooks/blob/main/nb/Kaggle-Muse_Glimmer_\(30B\)-Conversational.ipynb\&accelerator=nvidiaTeslaT4) | | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | * Muse Glimmer は以下でも学習できます [強化学習](#reinforcement-learning-rl) (RL) 無料、または24GB VRAMで。 * **30B QLoRA は 24GB で動作します** 一方、LoRA には >40GB が必要です * **GGUF などへのエクスポート**／保存 そして フルファインチューニング **（FFT）** も同様に使えます。 これらを収まるように、Muse Glimmer も最適化しました。最適化には以下が含まれます: * `offload_embedding = True` 保持します `embed_tokens` CPU RAM に保持し、検索された行だけを GPU に移動します。Muse Glimmer の入力埋め込みは 16-bit で 202048 x 6656 なので、読み込み時に 2.5 GB を取り戻せます。現時点では単一 GPU でのみ動作します（マルチ GPU 構成は作業中） * モデルを 56GB から 21GB に圧縮し、24GB カードでのファインチューニングを可能にする動的 4-bit BnB 量子化！ 180 GiB カード1枚で以下を計測: `max_seq_length = 1024`, バッチサイズ 1、LoRA r=16: offload 有効時の読み込み後重みは 18.22 GiB（無効時は 20.72 GiB）で、 **ピーク予約メモリは 22.57 GiB** 学習全体で。現実的な最小構成としては 24 GiB カードを想定してください。 ### クイックスタート Muse Glimmer は、計画、ツール実行、マルチモーダル理解、長文脈推論を必要とする自律エージェント向けに設計された、専用の知覚エンコーダーを備えた密な因果 Transformer です。 * 推論能力を維持したい場合は、推論スタイルの例と直接回答を混ぜてください。短い回答だけで学習するのは避けてください。マルチステップ推論の性能が低下する可能性があります。 * Muse Glimmer は 131K+ トークンまでの長いコンテキストをサポートしますが、まずは短いコンテキストからファインチューニングを始めてください。 * ファインチューニング後は、モデルを NVFP4、FP8、または GGUF にエクスポートして、ローカル推論形式で使用できます。 ### 無料のファインチューニングノートブック 以下を通じて無料で Muse Glimmer をファインチューニングするには [Unsloth](https://github.com/unslothai/unsloth)、私たちは複数のKaggleノートブックを提供しており、 **Tesla T4 GPU×2で30時間の無料GPU利用ができます**。KaggleはGoogleの製品で、Google Colabに似ており、自分のGPUハードウェアがなくてもファインチューニングワークフローを便利に実行できます。 | [**視覚 + テキスト**](https://www.kaggle.com/notebooks/welcome?src=https://github.com/unslothai/notebooks/blob/main/nb/Kaggle-Muse_Glimmer_\(30B\)-Vision.ipynb\&accelerator=nvidiaTeslaT4) | [**RL GRPO**](https://www.kaggle.com/notebooks/welcome?src=https://github.com/unslothai/notebooks/blob/main/nb/Kaggle-Muse_Glimmer_\(30B\)-GRPO.ipynb\&accelerator=nvidiaTeslaT4) | [**対話型**](https://www.kaggle.com/notebooks/welcome?src=https://github.com/unslothai/notebooks/blob/main/nb/Kaggle-Muse_Glimmer_\(30B\)-Conversational.ipynb\&accelerator=nvidiaTeslaT4) | | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | {% columns %} {% column %} Muse Glimmer **ビジョン** Kaggle {% embed url="" %} {% endcolumn %} {% column %} Muse Glimmer **対話型** Kaggle {% embed url="" %} {% endcolumn %} {% endcolumns %}
### 強化学習 RL 無料の Tesla T4 x 2 Kaggle 環境でも Muse Glimmer に GRPO / RL を正常に実行させることができました。ぎりぎり収まる程度ですが、動作します！ 16 GB の T4 GPU × 2 で `num_generations = 2`, `max_seq_length = 1536` また、log-softmax の 128 行上限では GPU VRAM が 4.10 GiB 必要です。同じ実行を 3072 トークンで行うには 7.57 GiB 必要なので、収まりません。 明示的なデバイスマップを以下で作成しました `unsloth_zoo.device_map_planner`これにより、メイン GPU カード上の logit 用余裕も確保されます。 {% embed url="" %} Muse Glimmer 向け強化学習 Kaggle 無料ノートブック {% endembed %} {% code overflow="wrap" %} ```python from unsloth_zoo.device_map_planner import plan_device_map_for_pretrained _plan = plan_device_map_for_pretrained( MODEL_NAME, # 合計ではなく空きメモリ: CUDA コンテキストはすでに常駐しています max_memory = {i: torch.cuda.mem_get_info(i)[0] for i in range(_n)}, rows_per_chunk = 128, # 以下の log-softmax 上限に一致 retained_rows = BATCH_SIZE * max_seq_length, softcapped = True, temperature_scaled = True, ) ``` {% endcode %} ### 🦥 Unslothガイド {% columns %} {% column %} Muse Glimmer は以下で実行およびファインチューニングできます [Unsloth](/docs/jp/shii/studio.md) Desktop、ローカルAI向けの新しいオープンソースWeb UIです。 Unsloth Studio を使うと、モデルをローカルで **MacOS、Windows**、Linux 上で実行し、NVIDIA GPU で学習できます。Intel、MLX、AMD の学習サポートは今月中に来ます。 {% endcolumn %} {% column %}
{% endcolumn %} {% endcolumns %} {% stepper %} {% step %} #### Unslothをインストール 始める最も簡単な方法は、次をダウンロードすることです。 [Unsloth Desktopアプリ](/docs/jp/desktop.md)。対応環境: [macOS](/docs/jp/meru/install/mac.md), [Windows](/docs/jp/meru/install/windows-installation.md)と [Linux](/docs/jp/meru/install/linux.md). Unslothをダウンロード * :apple: [macOS版をダウンロード](https://unsloth.ai/download/mac) * :windows: [Windows版をダウンロード](https://unsloth.ai/download/windows) * :linux: [Linux版をダウンロード](https://unsloth.ai/download/linux) または、手動でインストールしたい場合は: MacOS、Linux、WSL: ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` Windows PowerShell: ```bash irm https://unsloth.ai/install.ps1 | iex ``` {% endstep %} {% step %} #### Muse Glimmer を学習 初回起動時には、アカウントを保護するためのパスワードを作成し、後で再度サインインする必要があります。その後、モデル、データセット、基本設定を選ぶ簡単なオンボーディングウィザードが表示されます。いつでもスキップできます。 検索バーで Muse Glimmer を検索し、希望するモデルとデータセットを選択してください。次に、ハイパーパラメータとコンテキスト長を必要に応じて調整します。 {% endstep %} {% step %} #### 学習の進捗を監視 学習開始をクリックすると、モデルの学習進捗を監視・確認できるようになります。学習損失は着実に減少しているはずです。\n完了すると、モデルは自動的に保存されます。
{% endstep %} {% step %} #### ファインチューニングしたモデルをエクスポート 完了すると、Unsloth Studio でモデルを GGUF、safetensor などの形式にエクスポートできます。
{% endstep %} {% step %} #### ファインチューニングしたモデルと元のモデルを比較 をクリック `比較モード` して、LoRA アダプターと元のモデルを比較します。
{% endstep %} {% endstepper %} ## Muse Glimmer-30B の概要 | モデルアーキテクチャ | 知覚エンコーダー付きの密な因果 Transformer | | ------------ | ---------------------------- | | パラメータ | \~29.6B | | 層 | 52 | | 隠れ次元 | 6656 | | アテンション | ローカル、ローカル、ローカル、グローバルの繰り返し | | スライディングウィンドウ | 2048 | | アテンションヘッド | 32 Query / 2 KV | | FFN | SwiGLU | | コンテキスト長 | 131,072+ | | 視覚エンコーダー | ViT-G/14 (\~1.8B parameters) | | モダリティ | テキスト + 画像入力、テキスト出力 | | 語彙数 | 202,048 トークン | Muse Glimmer の用途: * 長文脈推論 * ツール使用の計画 * 障害からの復旧 * マルチモーダル理解 * エージェント用スキャフォールドとの互換性 * 制御可能な推論の強度 ## 推奨ファインチューニング方法 ### LoRA ファインチューニング ほとんどのユーザーには、LoRA が推奨されます。 利点: * VRAM 使用量が大幅に少ない * 学習が速い * アダプタファイルが小さい * モデル共有が容易 * ベースモデルの能力を維持 推奨の開始構成: ```python r = 16 lora_alpha = 16 lora_dropout = 0 ``` より難しいエージェント型タスクでは: ```python r = 32 lora_alpha = 32 ``` 小さく始め、必要な場合のみ増やしてください。 ## QLoRA ファインチューニング GPU メモリが限られている場合は QLoRA が推奨されます。 Muse Glimmer は、量子化推論を含む効率的なローカル展開向けに設計されています。同じ原則により、QLoRA は実用的なファインチューニング手法になります。 以下の場合は QLoRA を使用します: * コンシューマー向け GPU で学習する場合 * より大きなデータセットをファインチューニングする場合 * メモリ使用量を低く抑える場合 * 複数のアダプタを学習する場合 例: ```python load_in_4bit = True ``` *** ## マルチモーダルファインチューニング Muse Glimmer には、画像理解のための専用知覚エンコーダーが含まれています。 視覚タスクでは: * 最初は知覚エンコーダーを凍結したままにします。 * まず言語層をファインチューニングします。 * データセットに視覚的な適応が必要な場合のみ、視覚コンポーネントを学習してください。 良いマルチモーダルデータセットには以下が含まれます: * スクリーンショット理解 * 文書推論 * グラフ解釈 * GUI 操作 * 画像に基づくエージェントワークフロー 例の形式: ```json { "messages": [ { "role": "user", "content": [ { "type": "image", "image": "example.png" }, { "type": "text", "text": "このスクリーンショットを説明してください。" } ] }, { "role": "assistant", "content": "このスクリーンショットには..." } ] } ``` ## エージェント型ファインチューニング Muse Glimmer は自律エージェントのワークフロー向けに最適化されています。 エージェント用データセットには以下を含めます: * ツールの説明 * 正しい関数呼び出し * ツールの出力 * 失敗からの復旧 * 複数ステップの計画例 * 権限処理 * 最終的なユーザー向け応答 例: ```json { "messages": [ { "role": "user", "content": "最新のレポートを見つけて要約してください。" }, { "role": "assistant", "content": "ファイルを検索します。", "tool_calls": [ { "name": "file_search", "arguments": { "query": "最新のレポート" } } ] } ] } ``` ## データセット準備 Muse Glimmer は高品質な指示データセットで最もよく機能します。 推奨データセット: * マルチターン会話 * ツール使用の履歴 * コーディングタスク * エージェントの軌跡 * 視覚言語の例 * 推論の例 避けるもの: * 重複した例 * 低品質な生成回答 * 誤ったツール呼び出し * 一貫性のない書式 推論を維持するには: * 推論例は多様に保ってください。 * 最終回答を含めてください。 * chain-of-thought の出力だけで学習するのは避けてください。 ## 学習設定 良い開始構成: ```python trainer = SFTTrainer( max_seq_length = 4096, packing = True, ) ``` 推奨: | 設定 | 値 | | ------- | --------- | | バッチサイズ | 1-8 | | 勾配蓄積 | 4-16 | | 学習率 | 2e-4 LoRA | | エポック数 | 1-3 | | オプティマイザ | AdamW | | 精度 | BF16 | 長文脈学習では: * シーケンス長を徐々に増やしてください。 * VRAM 使用量を監視してください。 * 勾配チェックポイントを使用してください。 ## 推論ファインチューニング Muse Glimmer は制御可能な推論強度をサポートします: ``` 推論強度: 低 推論強度: 中 推論強度: 高 推論強度: xhigh ``` 複雑なタスクでは: * コーディング → 高/xhigh * エージェントワークフロー → 高/xhigh * シンプルなアシスタント → 中 * 高速応答 → 低 推論モデルをファインチューニングする際は: * 難しい例を含めてください。 * 失敗例と修正例を含めてください。 * 複数ステップのタスクを含めてください。 * 一般的な能力を維持してください。 ## ファインチューニングしたモデルのエクスポート 学習後、アダプタをエクスポートします: ```python model.save_pretrained("muse-glimmer-lora") tokenizer.save_pretrained("muse-glimmer-lora") ``` LoRA アダプタをマージできます: ```python model.merge_and_unload() ``` エクスポート形式には以下が含まれます: * Hugging Face 形式 * Safetensors * GGUF 互換形式 ## 推論設定 推奨生成設定: ```python temperature = 1.0 top_p = 0.95 top_k = 64 ``` 難しい推論タスクでは: ``` 推論強度: 高 ``` 高速な会話では: ``` 推論強度: 低 ``` ## ハードウェア要件 Muse Glimmer はローカル展開向けに最適化されています。 おおよその要件: | 学習方法 | ハードウェア | | ------------ | ----------------------------- | | LoRA | 大容量メモリ GPU 推奨 | | QLoRA | シーケンス長によってはコンシューマー向け GPU でも可能 | | フルファインチューニング | マルチ GPU システム | モデル自体は量子化重みにより効率的に実行でき、公開済みの 4-bit 版は 24GB および 32GB のコンシューマー向けハードウェアを対象としています。 ## 安全性ファインチューニング Muse Glimmer をエージェント型システムに展開する際は: * ツール権限チェックを追加してください。 * 外部アクションを検証してください。 * 取り消し不能な操作には確認を必須にしてください。 * プロンプトインジェクション耐性をテストしてください。 * プライバシーリスクを評価してください。 推奨の安全性データセット: * ツールの誤用例 * 権限の境界 * 危険な指示の処理 * データ最小化の例 ## トラブルシューティング ### メモリ不足 試してください: * シーケンス長を短くする * LoRA のランクを下げる * 4-bit 読み込みを有効にする * バッチサイズを下げる * 勾配チェックポイントを有効にする ### モデル品質が低下する 試してください: * 学習率を下げる * エポック数を減らす * データセットの品質を上げる * 元の指示例を混ぜる ### ツール呼び出しが不正確になる 追加するもの: * ツール呼び出し例を増やす * 正しいスキーマ * 失敗からの復旧例 * マルチターンのワークフロー --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation by asking a question. Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters: ``` GET https://unsloth.ai/docs/jp/moderu/muse-glimmer/train.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.