> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/moderu/glm-5.3-flash.md).

# GLM-5.3-Flash: ローカルでの実行方法

Z.aiによる新しいGLM-5.3-Flash、別名ox-alphaモデルを実行します。

GLM-5.3-Flashは、別名 **`ox-alpha`**は、Z.aiの新しい320Bパラメータ（18Bアクティブ）のマルチモーダルオープンモデルで、 **を上回ります** [GLM-5.2](/docs/jp/moderu/glm-5.2.md)。GLM-5.3-Flashは [GLM-5.3](/docs/jp/moderu/glm-5.3.md) で、競合するのは **Claude Opus 4.8** コーディングおよびエージェント系ベンチマークで。現在、1ビットモデルは102GBのRAM/VRAM、または128GB構成で3ビットモデルを、llama.cppまたは [Unsloth](https://github.com/unslothai/unsloth)。Z.aiの初日アクセスに感謝します。

Unslothの動的 **1ビット** （93GB）のGGUFは **top-1精度の71%を維持し** つつ **85%小型** BF16（642GB）と比べてです。動的3ビットは76%小型で、87%の精度を維持します。

​​<a href="/pages/1e2ff4c2c3ab2b8bf7abf958679105509f3070d3#run-glm-5.3-flash-ox-alpha-locally" class="button primary">GLM-5.3-Flash実行ガイド</a><a href="https://unsloth.ai/download" class="button secondary">Unslothをダウンロード</a>

{% hint style="success" %}
**9月4日:** GLM-5.3-Flashは現在、 [**3.3倍高速な推論**](#faster-inference-and-mtp-support)**!**
{% endhint %}

{% columns %}
{% column width="50%" %}
GLM-5.3-Flashは30Tトークンで学習され、新たに学習されたベースモデルの上に構築されています。ハイブリッドな疎結合および線形アテンションアーキテクチャにより、精度を損なうことなく長文コンテキストの提供コストを削減します。

現在、モデルを直接 [Unsloth Desktop](#run-glm-5.3-flash-in-unsloth).
{% endcolumn %}

{% column width="50%" %}

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FqPVJA6BHcCJIkQQrDvpD%2FScreenshot%202026-08-27%20at%207.38.11%E2%80%AFAM.png?alt=media&amp;token=576a6810-3f32-4e4c-a0d8-8a84cb733a52" alt=""><figcaption></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

### :gear: 使用ガイド

#### GLM-5.3-Flashの要件:

最小の1ビット量子化は100GBのRAMで動作し、3ビットはMacやNVIDIA DGX Sparkのような128GBデバイスで動作します。\
**表: ハードウェア要件** （単位 = 合計メモリ: RAM + VRAM、またはユニファイドメモリ）

| 1ビット   | 2ビット   | 3ビット       | 4ビット       | 8ビット   | BF16   |
| ------ | ------ | ---------- | ---------- | ------ | ------ |
| 100 GB | 115 GB | 128〜150 GB | 162〜210 GB | 350 GB | 650 GB |

### 推奨設定

GLM-5.3-Flashには **3つの思考モード**：Low、High、Maxがあります。複雑なタスクにはMax Thinkingを使用してください。 [Unsloth](#run-glm-5.2-in-unsloth-studio)チャット欄のトグルでLow、High、Max Thinkingを簡単に選択できます。

ほとんどのユースケースでは、次の設定を使用してください:

| デフォルト設定（ほとんどのタスク）   | DeepSWE              |
| ------------------- | -------------------- |
| `temperature` = 1.0 | `temperature` = 0.95 |
| `top_p` = 0.95      | `top_p` = 1.0        |

* **最大コンテキストウィンドウ:** `1,048,576`.

#### 推論強度の変更

GLM-5.3-FlashはデフォルトでMax推論を使用します。また、次の推論強度もサポートしています。 `reasoning_effort` は「low」「high」「max」にできます。

### 高速推論とMTPサポート

9月4日時点で、day-zeroの [llama.cpp PR](https://github.com/ggml-org/llama.cpp/pull/27754)にいくつかの改善と最適化を加えました。より高速なデコードパスと追加のMTPサポートを実装し、最大で **3.3倍高速な推論** 長いコンテキスト長で！

すべてがそのまま [Unsloth Desktop](#run-glm-5.3-flash-in-unsloth)で動作します。必要であれば最新バージョンに更新するだけです。追加のモジュールやMTPファイルは不要です。あるいは、以下の [llama.cpp](#run-glm-5.3-flash-in-llama.cpp) ガイドに従ってください。

<div><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FRKSzhmcluWnoNwUxFS40%2Fimage.png?alt=media&amp;token=872cd9b0-e968-4a0d-977c-5315d0ca3e49" alt=""><figcaption></figcaption></figure> <figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F2tUYioUQhnyCv1pJTfld%2Fimage.png?alt=media&amp;token=b8bfd0de-22c8-4f30-8bfd-36656ae3c16e" alt=""><figcaption></figcaption></figure></div>

1台のB200でGLM-5.3-Flash UD-IQ1\_Sを使用し、まずMTPを無視すると、次の結果になります:

| テスト          | ベースライン tok/s | 最適化後 tok/s |
| ------------ | -----------: | ---------: |
| pp512        |      1121.80 |     1122.0 |
| tg32         |        62.79 |      63.10 |
| tg32 @ 4096  |        53.52 |      59.50 |
| tg32 @ 16384 |        41.02 |      57.99 |
| tg32 @ 65536 |        20.66 |      48.99 |

次にMTPを追加すると、特に長いコンテキストでさらに大きな効果が見られます。ただし、ドラフトトークンが増えるほど推論が遅くなるため、n=2程度で止めるべきです。

| プロンプト | MTPオフ |  n=2 |  n=3 |  n=5 |
| ----- | ----: | ---: | ---: | ---: |
| 4096  |  58.6 | 86.5 | 80.2 | 63.7 |
| 16K   |  55.0 |      | 77.2 |      |

短いコンテキスト長でも、最大1.6倍の高速化ながら、速度向上が見られます。

<div><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FmX36IJYj83OgfeQbCjh5%2Fimage.png?alt=media&amp;token=56e0ea43-df0b-47c4-8551-849921ef3913" alt=""><figcaption></figcaption></figure> <figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FCebn6JiIDQpQMSOz8nIX%2Fimage.png?alt=media&amp;token=1f76ea17-4970-45ae-b92e-3abce29628d7" alt=""><figcaption></figcaption></figure></div>

### 📈 量子化分析

GLM-5.3-FlashをUD-IQ1\_S 1bit（93.09GB）まで量子化し、BF16（641.64GB）と比べて85%小型でありながら、top-1%精度の71%を維持しています

動的2ビット UD-Q2\_K\_XL は109GBで、83%小型で、精度の78%を維持します。\
動的3ビット UD-IQ3\_XXS は120GBで、81%小型で、精度の82%を維持します。\
動的4ビット UD-Q4\_K\_XL は200GBで、69%小型で、精度の93%を維持します。

<div><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FHB3bFxI8Cm3IOw3CRzvR%2Fglm53_flash_dynamic_ggufs_top1_accuracy_new_data.png?alt=media&amp;token=49882cca-1643-4e81-ad64-9d53c75ab93a" alt=""><figcaption></figcaption></figure> <figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FthGU2pMvyHLSsnOal90W%2Fglm53_flash_dynamic_ggufs_kld_benchmarks_new_data.png?alt=media&amp;token=204f70ee-cae2-4a63-b958-d4ec515f4ce3" alt=""><figcaption></figcaption></figure></div>

| 量子化          | サイズ    | top-1精度 | 平均KLD    | KLD 99.9% |
| ------------ | ------ | ------- | -------- | --------- |
| UD-IQ1\_S    | 93.09  | 70.89%  | 0.669714 | 9.1658    |
| UD-IQ1\_M    | 97.58  | 73.06%  | 0.572413 | 8.5069    |
| UD-IQ2\_XXS  | 101.84 | 76.30%  | 0.450148 | 7.5764    |
| UD-Q2\_K\_XL | 108.72 | 78.34%  | 0.380134 | 6.8412    |
| UD-IQ3\_XXS  | 120.37 | 81.63%  | 0.283772 | 5.9611    |
| UD-Q3\_K\_XL | 147.54 | 86.25%  | 0.159697 | 4.0281    |
| UD-IQ4\_XS   | 156.82 | 88.18%  | 0.116652 | 3.1014    |
| UD-Q4\_K\_XL | 199.71 | 92.22%  | 0.049294 | 1.4894    |
| UD-Q5\_K\_XL | 240.31 | 94.35%  | 0.027052 | 0.8696    |
| UD-Q6\_K\_XL | 291.83 | 95.23%  | 0.019007 | 0.6267    |

## GLM-5.3-Flash（Ox-Alpha）をローカルで実行

現在、GLM-5.3-Flash（Ox-Alpha）をUnsloth Desktopとllama.cppで、私たちの [専用PR](https://github.com/ggml-org/llama.cpp/pull/27754)。私たちは3ビットを使用しています `UD-IQ3_XXS` 128GBデバイスに収まるため、デモで使用しています。量子化タイプは自由に変更してください。

* Hugging Face: [GLM-5.3-Flash-GGUF](https://huggingface.co/unsloth/GLM-5.3-Flash-GGUF)

<a href="/pages/1e2ff4c2c3ab2b8bf7abf958679105509f3070d3#run-glm-5.3-flash-in-unsloth" class="button primary">Unsloth Desktopで実行</a><a href="/pages/1e2ff4c2c3ab2b8bf7abf958679105509f3070d3#run-glm-5.3-flash-in-llama.cpp" class="button secondary">llama.cppで実行</a>

### 🦥 UnslothでGLM-5.3-Flashを実行

GLM-5.3-Flashは現在、 [Unsloth Desktop](#run-qwen3.8-in-unsloth-desktop)ローカルAI向けのオープンソースUIアプリである **UnslothはRAMへ自動的にオフロードし、マルチGPU構成を検出します**。Unsloth Desktopを使えば、モデルをローカルで次の環境で実行できます。 **MacOS、Windows**、Linux、そして:

{% columns %}
{% column %}

* 検索、ダウンロード、 [GGUFを実行](/docs/jp/shii/studio.md#run-models-locally)、MLXおよびsafetensorモデル
* [**自己修復** ツール呼び出し](/docs/jp/shii/studio/chat.md#auto-healing-tool-calling) + **ウェブ検索**
* [**コード実行**](/docs/jp/desktop.md#code-execution) （Python、Bash）
* [自動推論](https://unsloth.ai/docs/desktop#feature-deep-dive) パラメータ調整（temp、top-pなど）
* MLXとllama.cppによる高速なCPU+GPU推論
* [LLMを学習](/docs/jp/shii/studio.md#no-code-training) VRAMを70%削減して2倍高速
  {% endcolumn %}

{% column %}

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F6IXaXdTVyvbrnjehlxys%2Fkimik3.gif?alt=media&amp;token=31e1213b-d7da-46e9-bc7f-3a8c402513fc" alt=""><figcaption></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

{% stepper %}
{% step %}

#### Unslothをインストール

始める最も簡単な方法は、次をダウンロードすることです。 [Unsloth Desktopアプリ](/docs/jp/desktop.md)。対応環境: [macOS](/docs/jp/meru/install/mac.md), [Windows](/docs/jp/meru/install/windows-installation.md)、および [Linux](/docs/jp/meru/install/linux.md).

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unslothをダウンロード</a>

* <i class="fa-apple">:apple:</i> [macOS版をダウンロード](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Windows版をダウンロード](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Linux版をダウンロード](https://unsloth.ai/download/linux)

または、手動でインストールしたい場合は:

MacOS、Linux、WSL:

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

Windows PowerShell:

```bash
irm https://unsloth.ai/install.ps1 | iex
```

{% endstep %}

{% step %}

#### GLM-5.3-Flashを検索してダウンロード

へ移動 [Unsloth Chat](/docs/jp/shii/studio/chat.md) またはModel hubで検索バーにGLM-5.3-Flashを入力し、目的のモデルと量子化をダウンロードします。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FvOQkVli16S26FygKi2gw%2FScreenshot%202026-08-27%20at%204.18.11%E2%80%AFAM.png?alt=media&amp;token=df7914de-597e-43b9-8147-d568ccca0a51" alt=""><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### GLM-5.3-Flashを実行

Unslothを使用すると推論パラメータは自動設定されますが、手動でも変更できます。コンテキスト長、チャットテンプレート、その他の設定も編集できます。

詳細については、次を参照してください。 [Unsloth推論ガイド](/docs/jp/shii/studio/chat.md)。1ビットの実行は以下のとおり:

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FwmOvZRaD61XCmMDBlHOD%2FScreenshot%202026-08-27%20at%207.08.52%E2%80%AFAM.png?alt=media&amp;token=4980f172-4323-43a0-9338-fe0e2ca749b6" alt=""><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### Unsloth APIでGLM-5.3-Flashを提供

次を使用できます `unsloth run` コマンドを使って、次を用いたAPI経由でGLM-5.3-Flashを提供します `llama-server` 実行時フラグには、コンテキストサイズ、GPUレイヤー、スレッディング、サンプリング、ネットワーキング、ツール設定が含まれます。詳細は次を参照してください。 [APIドキュメント](/docs/jp/ji-chu/api.md) または [unsloth start](/docs/jp/tong-he/unsloth-start.md).

{% code overflow="wrap" %}

```bash
unsloth run --model unsloth/GLM-5.3-Flash-GGUF:UD-IQ3_XXS
```

{% endcode %}
{% endstep %}

{% step %}

#### Unslothの準備が整いました

Unsloth Desktop経由でGLM-5.3-Flashを使って、次のような他の多くのこともできます:

* **ツールを接続:** [Claude Code](/docs/jp/ji-chu/claude-code.md), [Codex](/docs/jp/ji-chu/codex.md), [ウェブ検索](/docs/jp/shii/studio/chat.md#advanced-web-search), [MCP](/docs/jp/ji-chu/mcp.md) など
* **モデルを学習:** テキスト、拡散モデル、 [埋め込み](/docs/jp/ji-chu/embedding-finetuning.md)など
* **メディアを生成:** 作成して学習 [画像](/docs/jp/ji-chu/diffusion-image.md)、動画、 [TTS](/docs/jp/ji-chu/text-to-speech-tts-fine-tuning.md) ローカルで

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FNYiWxq5OX7NdPoqxp2Hu%2FScreenshot%202026-08-27%20at%2011.59.01%E2%80%AFPM.png?alt=media&amp;token=d9311caa-6935-47b3-a767-5c48e92b7c25" alt=""><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}

### :llama: llama.cppでGLM-5.3-Flashを実行

{% stepper %}
{% step %}
専用のllama.cpp PRを使用する必要があります [ここ](https://github.com/unslothai/llama.cpp/pull/61)。以下のビルド手順に従うこともできます。変更してください `-DGGML_CUDA=ON` を `-DGGML_CUDA=OFF` GPUがない場合、またはCPU推論のみを使いたい場合は。 **Apple Mac / Metalデバイスの場合**、次を設定します `-DGGML_CUDA=OFF` その後は通常どおり続けてください。Metalサポートはデフォルトで有効です。

```bash
apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone --branch glm5next/upstream https://github.com/unslothai/llama.cpp
cmake llama.cpp -B llama.cpp/build \
    -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp
```

{% endstep %}

{% step %}
モデルを実行するには、次のようにします:

{% code overflow="wrap" %}

```bash
pip install -U "huggingface_hub[cli]"
hf download unsloth/GLM-5.3-Flash-GGUF \
    --local-dir unsloth/GLM-5.3-Flash-GGUF \
    --include "*UD-IQ3_XXS*" # 2ビットには "*IQ2_XXS*" を使用
```

{% endcode %}
{% endstep %}

{% step %}
次に実行します:

{% code overflow="wrap" %}

```bash
./llama.cpp/llama-cli \
    --model unsloth/GLM-5.3-Flash-GGUF/UD-IQ3_XXS/GLM-5.3-Flash-UD-IQ3_XXS-00001-of-00004.gguf \
    --temp 1.0 \
    --top-p 0.95 \
    --chat-template-kwargs '{"reasoning_effort":"max"}'
```

{% endcode %}

置き換え `UD-IQ3_XXS` お好みの量子化に、例えば `IQ2_XXS` を、アップロード後の2ビット用として使用します。
{% endstep %}
{% endstepper %}

## 📊 ベンチマーク

<div><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FfxF1H1wdQe3vKBepuhdA%2Fimage.png?alt=media&amp;token=b6e590cc-fafb-43b3-8e8b-0b318200cbcb" alt=""><figcaption></figcaption></figure> <figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FUy73TYPneV9NarmiUgJZ%2Fimage.png?alt=media&amp;token=8b344785-cb9b-4c61-bf55-4fdc77be1d0a" alt=""><figcaption></figcaption></figure></div>

| ベンチマーク                              | GLM-5.3-Flash | GLM-5.2 | DeepSeek-V4-Vision-Exp | Opus 4.8 | GPT-5.6 Terra | Gemini 3.7 Flash |
| ----------------------------------- | ------------- | ------- | ---------------------- | -------- | ------------- | ---------------- |
| コーディング                              |               |         |                        |          |               |                  |
| Terminal Bench 2.1                  | 84.3          | 81.0    | 83.9                   | 85.0     | 87.4          | 85.8             |
| <p>DeepSWE</p><p>v1.1</p>           | 63.4          | 46.2    | 59.3                   | 58.0     | 69.6          | 65.3             |
| NL2Repo                             | 56.3          | 48.9    | 57.7                   | 69.7     | -             | -                |
| エージェント系                             |               |         |                        |          |               |                  |
| Toolathlon Verified                 | 78.4          | 59.9    | 75.9                   | 76.2     | 74.9          | -                |
| <p>AutomationBench</p><p>v1.0.6</p> | 48.8          | 26.2    | 38.8                   | 41.0     | 37.2          | 52.3             |
| Agents' Last Exam                   | 26.3          | 20.4    | 27.3                   | 27.0     | 28.0          | -                |
| ツール付きHLE                            | 55.3          | 54.7    | 55.1                   | 57.9     | -             | -                |
| GDPval-AA v2                        | 1773          | 1504    | 1675                   | 1582     | 1571          | 1527             |
| ビジョン                                |               |         |                        |          |               |                  |
| OfficeQA Pro                        | 62.4          | -       | 57.9                   | 48.9     | -             | -                |
| <p>CharXiv推論</p><p>ツール付き</p>        | 89.4          | -       | 80.4                   | 89.9     | 88.0          | 88.7             |
| <p>Chartography</p><p>ツール付き</p>     | 78.0          | -       | 64.3                   | 75.0     | 68.0          | 65.0             |
| BabyVision                          | 53.4          | -       | 35.1                   | 46.8     | 61.6          | 70.9             |
| MVbench                             | 77.8          | -       | 69.4                   | 67.1     | 75.0          | 82.2             |
| MMVU                                | 80.5          | -       | 72.7                   | 67.4     | 75.8          | 82.3             |


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/jp/moderu/glm-5.3-flash.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.