> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/moderu/diffusiongemma.md).

# DiffusionGemma - ローカルでの実行方法

DiffusionGemma **26B-A4B** Google DeepMindの新しいオープン **マルチモーダル** モデルで、～上に構築されています [Gemma 4](/docs/jp/moderu/gemma-4.md) MoEアーキテクチャ。対応言語は **256Kコンテキスト**, **140以上**、DiffusionGemmaは **高速なテキスト生成** を目的として設計されており、テキスト、動画、画像入力に対応しています。DiffusionGemmaはローカルで実行できます **18GB RAM**と [ファインチューニング](#fine-tune-diffusiongemma) は、次を通じて現在サポートされています [Unsloth](https://github.com/unslothai/unsloth).

標準的なトークンごとのデコードの代わりに、DiffusionGemmaは **拡散生成** を使って出力を並列に生成し、徐々に最終回答へと洗練していきます。拡散画像モデルに似ていますが、テキスト向けです。モデルは次を介して実行できます [Unsloth Studio](/docs/jp/shii/studio.md) またはllama.cpp。RTX 6000では、DiffusionGemmaは **2000トークン/秒以上**. **GGUF:** [diffusiongemma-26B-A4B-it-GGUF](https://huggingface.co/unsloth/diffusiongemma-26B-A4B-it-GGUF)

<a href="/docs/jp/moderu/diffusiongemma.md#run-diffusiongemma-tutorials" class="button primary">DiffusionGemmaを実行</a><a href="/docs/jp/moderu/diffusiongemma.md#fine-tune-diffusiongemma" class="button secondary">DiffusionGemmaをファインチューニング</a>

{% hint style="success" %}
**6月12日:** DiffusionGemmaを次で実行できるようになりました [Unsloth Studio](#unsloth-studio-guide) ✨、推論速度が1.8倍高速化！
{% endhint %}

### 使用ガイド

DiffusionGemmaは、標準モデルよりも高速な生成を必要とするユーザー向けに設計されています。高速なローカル推論、長文コンテキスト文書解析、画像/動画理解、OCRおよび文書解析、コード生成、ツール使用、エージェント的ワークフロー、低レイテンシの小バッチ推論に適しています。

標準のGemma 4モデルとは異なり、DiffusionGemmaには拡散対応の推論ランタイムが必要です。次のような自己回帰設定 `temperature`, `、top_p`と `top_k` だけでは、必要な拡散サンプラーなしに推奨動作を再現するには不十分です。

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fszoidwwj70dLm5vBjpmL%2Fdiffusiongemma.gif?alt=media&amp;token=8ce359fd-f92c-4cf8-a491-06b04c505cb7" alt="" width="563"><figcaption></figcaption></figure></div>

### ハードウェア要件

4ビット精度でモデルを実行するには、少なくとも18GBのRAMがあると一般的に最適です。 **GGUF:** [diffusiongemma-26B-A4B-it-GGUF](https://huggingface.co/unsloth/diffusiongemma-26B-A4B-it-GGUF)

**表: DiffusionGemma推論GGUFの推奨ハードウェア要件** （単位 = 合計メモリ: RAM + VRAM、またはユニファイドメモリ）。

| 4ビット  | 5-bit | 6ビット  | 8ビット  | BF16 / FP16 |
| ----- | ----- | ----- | ----- | ----------- |
| 18 GB | 20 GB | 24 GB | 28 GB | 52 GB       |

{% hint style="info" %}
目安として、利用可能な総メモリは、ダウンロードする量子化モデルのサイズを少なくとも上回る必要があります。満たさない場合でも、RAM/ディスクへの部分オフロードを使って実行できますが、生成速度は遅くなります。さらに、使用するコンテキストウィンドウに応じて、より多くの計算能力も必要になります。
{% endhint %}

## DiffusionGemma実行チュートリアル

少なくとも4ビット精度を使うのが最適なので、4ビットの `Q4_K_M` 量子化版を使用します。これには18GBのRAMが必要です。 **GGUF:** [diffusiongemma-26B-A4B-it-GGUF](https://huggingface.co/unsloth/diffusiongemma-26B-A4B-it-GGUF)

<a href="/docs/jp/moderu/diffusiongemma.md#unsloth-studio-guide" class="button primary">🦥 Unsloth Studio ガイド</a><a href="/pages/67dde10a83f289f1c4d84bf59deafcd898794129#llama.cpp-guide" class="button primary">🦙 Llama.cppガイド</a>

### 🦥 Unsloth Studio ガイド

{% hint style="success" %}
DiffusionGemmaを次で実行できるようになりました [Unsloth Studio](#unsloth-studio-guide) ✨。次を使用していることを確認してください [`v0.1.463-beta`](https://github.com/unslothai/unsloth/tree/v0.1.462-beta) または `2026.6.6`.
{% endhint %}

DiffusionGemmaは現在、次で実行および学習できます [Unsloth Studio](/docs/jp/shii/studio.md)、ローカルAI向けの新しいオープンソースWeb UIです。Unsloth Studioでは、モデルをローカルで実行できます **MacOS**, **Windows**、Linux、そして:

{% columns %}
{% column %}

* 検索、ダウンロード、 [GGUFを実行](/docs/jp/shii/studio.md#run-models-locally) およびsafetensorモデル
* [**自己修復** ツール呼び出し](/docs/jp/shii/studio.md#execute-code--heal-tool-calling) + **web search**
* [**コード実行**](/docs/jp/shii/studio.md#run-models-locally) （Python、Bash）
* [自動推論](https://unsloth.ai/docs/desktop#feature-deep-dive) パラメータ調整（temp、top-pなど）
* llama.cppによる高速CPU + GPU推論
* [LLMを学習](/docs/jp/shii/studio.md#no-code-training) VRAMを70%削減して2倍高速
  {% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fszoidwwj70dLm5vBjpmL%2Fdiffusiongemma.gif?alt=media&amp;token=8ce359fd-f92c-4cf8-a491-06b04c505cb7" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% stepper %}
{% step %}

#### Unslothをインストール

最新の [`v0.1.463-beta`](https://github.com/unslothai/unsloth/tree/v0.1.462-beta) または `2026.6.6`を使用していることを確認してください。ターミナルで実行：

**MacOS、Linux、WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows PowerShell:**

```bash
irm https://unsloth.ai/install.ps1 | iex
```

{% endstep %}

{% step %}

#### Unsloth を起動

**MacOS、Linux、WSL、Windows:**

```bash
unsloth studio -H 0.0.0.0 -p 8888
```

その後、 `http://127.0.0.1:8888` （またはお使いのURL）をブラウザで開いてください。
{% endstep %}

{% step %}

#### DiffusionGemmaを検索してダウンロード

初回起動時には、アカウントを保護するためのパスワードを作成し、再度サインインする必要があります。

それから [Unsloth Chat](/docs/jp/shii/studio/chat.md) タブを開き、検索バーでDiffusionGemmaを検索して、必要なモデルと量子化版をダウンロードしてください。
{% endstep %}

{% step %}

#### DiffusionGemmaを実行

Unsloth Studio を使用すると推論パラメータは自動設定されるはずですが、手動で変更することもできます。コンテキスト長、チャットテンプレート、その他の設定も編集できます。

詳細については、次を参照してください。 [Unsloth Studio 推論ガイド](/docs/jp/shii/studio/chat.md).

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fszoidwwj70dLm5vBjpmL%2Fdiffusiongemma.gif?alt=media&amp;token=8ce359fd-f92c-4cf8-a491-06b04c505cb7" alt="" width="563"><figcaption></figcaption></figure></div>
{% endstep %}
{% endstepper %}

### 🦙 Llama.cppガイド

このチュートリアルでは、Dynamic 4ビットの `Q4_K_M` 量子化版を使用します。これは18GBのRAMが必要で、 [llama.cpp](llama.cpphttps://github.com/ggml-org/llama.cpp) 高速なローカル推論のために、特にCPUをお持ちの場合に

{% stepper %}
{% step %}
特定の `llama.cpp` PR を取得 [**GitHubこちら**](https://github.com/ggml-org/llama.cpp/pull/24423)。以下のビルド手順に従うこともできます。変更してください `-DGGML_CUDA=ON` を `-DGGML_CUDA=OFF` GPUがない場合、またはCPU推論のみを使いたい場合は。 **Apple Mac / Metalデバイスの場合**、次を設定します `-DGGML_CUDA=OFF` その後は通常どおり続けてください。Metalサポートはデフォルトで有効です。

```bash
git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
gh pr checkout 24423
# CUDAでビルド（CPUのみのビルドでは -DGGML_CUDA=ON を削除）
cmake -B build -DGGML_CUDA=ON
cmake --build build -j --config Release --target llama-diffusion-cli
cd ..
```

{% endstep %}

{% step %}
以下をインストールした後、( `pip install huggingface_hub`をインストール後）。 `Q4_K_M` を選ぶこともできますし、 `Q8_0` 。ダウンロードが停止した場合は、こちらを参照してください: [Hugging Face Hub、XET のデバッグ](/docs/jp/ji-chu/troubleshooting-and-faqs/hugging-face-hub-xet-debugging.md)

```bash
pip install -U "huggingface_hub[cli]"
hf download unsloth/diffusiongemma-26B-A4B-it-GGUF \
    --local-dir unsloth/diffusiongemma-26B-A4B-it-GGUF \
    --include "*Q8_0*" # より小さい16 GBのダウンロードには "*Q4_K_M*" を使用
```

{% endstep %}
{% endstepper %}

### DiffusionGemmaとチャットする

次に、以下を実行してください:

{% code overflow="wrap" %}

```bash
./build/bin/llama-diffusion-cli \
  -m unsloth/diffusiongemma-26B-A4B-it-GGUF/diffusiongemma-26B-A4B-it-Q8_0.gguf \
  -ngl 99 -cnv -n 2048
```

{% endcode %}

次のように表示されます：

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fqax7SXjUrxZpWORhexyj%2Fimage.png?alt=media&amp;token=066fb8a1-8865-417a-9ca0-2c5443ebe520" alt=""><figcaption></figcaption></figure>

「Flappy Birdゲームを作って」のような質問を入力すると、手順が表示されます:

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FWBxW71WgZwEmj8vqEuhT%2Fimage.png?alt=media&amp;token=19ae3bfc-2a8d-463b-b2cb-7b9456ee9226" alt=""><figcaption></figcaption></figure>

その後、出力が表示されます:

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fngo7EXmeZnJKhmWAcrNy%2Fimage.png?alt=media&amp;token=f6024241-227c-41f9-9a23-cac8418f89e7" alt="" width="375"><figcaption></figcaption></figure>

会話を続けることもできます！

変更して `-n 2048` 予測したいトークン数として指定します。値が大きいほど、より長い回答になります。

### 拡散のライブ可視化

拡散を実際にライブで確認するには、以下を使用してください。特に次を有効にします `--diffusion-visual`:

```bash
./build/bin/llama-diffusion-cli \
  -m unsloth/diffusiongemma-26B-A4B-it-GGUF/diffusiongemma-26B-A4B-it-Q8_0.gguf \
  -ngl 99 -cnv -n 2048 --diffusion-visual
```

再び次が表示されます:

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FwvBjHSctfgHXYDAu1TFp%2Fimage.png?alt=media&amp;token=860a27d0-6d1c-404b-972a-4cdbdcce166a" alt=""><figcaption></figcaption></figure>

そして、次のようになります：

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FTrPopPhlJZGW28cyjaJB%2Fdiffusiongem.gif?alt=media&amp;token=b8d9434b-d929-4f13-81ad-ecfe21262169" alt="" width="563"><figcaption></figcaption></figure>

以下のブランチを使用するllama.cppの全パラメータ:

* `-n, --n-predict N` - 目標トークン数; から導出 `--diffusion-blocks` で増加 `-ub` / `-b` / `-c`.
* `-ngl 99` - すべてのレイヤーをGPUにオフロード（`-ngl 0` はCPUのみ）。
* `-cnv` - 複数ターン会話モード。
* `--diffusion-visual` - ライブキャンバスのデノイズ表示。
* Entropy-Boundサンプラーはデフォルトでオンです（`--diffusion-eb auto`）。次で調整できます `--diffusion-eb-max-steps` （デフォルト48）、 `--diffusion-eb-t-max` / `--diffusion-eb-t-min` (0.8 -> 0.4), `--diffusion-eb-entropy-bound` （0.1）、および `--diffusion-eb-confidence` (0.005).
* `--diffusion-kv-cache {auto,on,off}` - プロンプトプレフィックスKVキャッシュ（auto = 単一GPUではon）。

## DiffusionGemmaをファインチューニング

今では、DiffusionGemmaを直接次で学習・ファインチューニングできます [**Unsloth**](#unsloth-studio-guide)。この例では、数独でモデルをファインチューニングすることで、ドメイン固有学習の効果を示します。ベースモデルは当初、数独タスクでうまく動作しませんが、対象を絞ったデータセットで学習した後、実際に数独を解く方法を学習し、すべての例を正しく解けるようになります。

Colabノートブック（A100）を使って、次の方法でDiffusionGemmaをファインチューニングできます:

{% embed url="<https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/DiffusionGemma_(26B-A4B)-Sudoku.ipynb>" %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FexAR7eC5YN44boNs2tFD%2Fsudoku_before_after(1).gif?alt=media&amp;token=2bc254a8-dbf9-4638-a5cb-8a7877d3c9fa" alt="" width="563"><figcaption></figcaption></figure></div>

## 推奨設定

[Unsloth Studio](#unsloth-studio-guide) モデルに最適な推論設定を自動的に設定します。必要に応じて以下を使用してください:

| カテゴリ   | 設定          | 値                           |
| ------ | ----------- | --------------------------- |
| サンプリング | メソッド        | `diffusion_sampling`        |
| サンプリング | サンプラー       | `entropy_bounded_denoising` |
| サンプリング | 最大デノイズステップ数 | `48`                        |
| 温度     | 温度スケジュール    | `linear_decay`              |
| 温度     | 温度開始        | `0.8`                       |
| 温度     | 温度終了        | `0.4`                       |
| エントロピー | エントロピー上限    | `0.1`                       |
| 適応停止   | 適応停止が有効     | `true`                      |
| 適応停止   | エントロピー閾値    | `0.005`                     |
| キャンバス  | キャンバス長      | `256`                       |

**適応停止のトリガー条件**

適応停止は次の場合にのみトリガーされるべきです **両方** 条件が満たされたとき:

| 条件                        | 必要値       |
| ------------------------- | --------- |
| キャンバスの平均エントロピー            | `< 0.005` |
| 最も高確率のトークンが2ステップ連続で安定している | `true`    |

各デノイズステップで、サンプラーは相互情報量の上限が次の値のままである、最も低エントロピーのトークンを選択する必要があります: `entropy_bound = 0.1`。選択されなかったトークンは、次のデノイズステップまでに完全に再ノイズ化される必要があります。

### 思考モード

DiffusionGemmaはGemma 4スタイルの思考モードをサポートしています。思考を有効にするには、システムプロンプトの先頭に思考トークンを追加します:

```
<|think|>
```

思考が有効な場合、モデルは内部推論チャネルに続いて最終回答を出力することがあります:

```
<|channel>thought
[内部推論]
<channel|>
[最終回答]
```

思考を無効にするには、システムプロンプトから `<|think|>` トークンを削除してください。思考が無効でも、モデルは空の思考チャネルを出力することがあります:

```
<|channel>thought
<channel|>
[最終回答]
```

複数ターン会話では、 **しません** 以前の隠れた思考は会話履歴に含めないでください。次のユーザーターンの前には、最後のアシスタント応答のみを含めてください。

## DiffusionGemmaのベストプラクティス

### マルチモーダルプロンプト

DiffusionGemmaは、テキストと画像を含むインターリーブされたマルチモーダル入力をサポートしています。動画は画像フレームのシーケンスとして処理できます。

マルチモーダルプロンプトで最良の結果を得るには、画像またはフレームの内容をテキスト指示の前に置いてください。例:

```
[画像]
グラフを説明し、主要な傾向を要約してください。
```

文書解析、OCR、チャート理解、UI理解、または短いテキスト抽出には、より大きい視覚トークン予算を使用してください。

サポートされる視覚トークン予算:

| 視覚トークン予算 | 最適な用途                |
| -------- | -------------------- |
| 70       | 高速分類、簡単なキャプション生成     |
| 140      | 軽量な視覚QA              |
| 280      | 一般的な画像理解             |
| 560      | OCR、チャート、UIスクリーンショット |
| 1120     | 高密度文書、小さな文字、詳細抽出     |

動画風の入力については、DiffusionGemmaは最大 **60秒** まで処理できます **1秒あたり1フレーム**.

### サンプリングメモ

DiffusionGemmaは通常の次トークン専用モデルではありません。ノイズのあるトークン予測を繰り返し洗練することで、 **キャンバス**と呼ばれるトークンのブロックを生成します。生成プロセスはおおむね次のように動作します:

1. エンコーダがプロンプトを処理し、コンテキストキャッシュを構築します。
2. デコーダが256トークンの生成キャンバスを受け取ります。
3. 拡散サンプラーがキャンバスを反復的にデノイズします。
4. 確信度の高いトークンが選択され、保持されます。
5. 不確かなトークンは再びノイズ化され、再度洗練されます。
6. キャンバスが完成すると、それはコンテキストに追加されます。
7. モデルは次のキャンバスへ進みます。

このブロック自己回帰アプローチにより、DiffusionGemmaは標準的な自己回帰モデルより少ない順伝播回数で多くのトークンを生成できます。

## ベンチマーク

DiffusionGemmaは速度とマルチモーダル推論に最適化されていますが、従来の推論ベンチマークでは標準のGemma 4のほうが強力です。

| ベンチマーク              | DiffusionGemma 26B-A4B | Gemma 4 26B-A4B |
| ------------------- | ---------------------: | --------------: |
| MMLU Pro            |                  77.6% |           82.6% |
| AIME 2026 ツールなし     |                  69.1% |           88.3% |
| LiveCodeBench v6    |                  69.1% |           77.1% |
| Codeforces ELO      |                   1429 |            1718 |
| GPQA Diamond        |                  73.2% |           82.3% |
| Tau2 平均             |                  56.2% |           68.2% |
| HLE ツールなし           |                  11.0% |            8.7% |
| HLE 検索あり            |                  11.9% |           17.2% |
| BigBench Extra Hard |                  47.6% |           64.8% |
| MMMLU               |                  81.5% |           86.3% |

| 長文コンテキストベンチマーク           | DiffusionGemma 26B-A4B | Gemma 4 26B-A4B |
| ------------------------ | ---------------------: | --------------: |
| MRCR v2 8 needle 128K 平均 |                  32.0% |           44.1% |

**視覚ベンチマーク:**

| 視覚ベンチマーク                | DiffusionGemma 26B-A4B | Gemma 4 26B-A4B |
| ----------------------- | ---------------------: | --------------: |
| MMMU Pro                |                  54.3% |           73.8% |
| OmniDocBench 1.5、低いほど良い |                  0.319 |           0.149 |
| MATH-Vision             |                  70.5% |           82.4% |
| MedXPertQA MM           |                  49.0% |           58.1% |


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/jp/moderu/diffusiongemma.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
