> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/moderu/glm-5.2.md).
# GLM-5.2 - ローカルでの実行方法
GLM-5.2はZ.aiの新しいオープンモデルで、長期的なコーディング、推論、エージェント系タスク全般でSOTAの性能を発揮します。さらに **744Bパラメータ**、40Bのアクティブパラメータ、そして **100万コンテキスト** ウィンドウを備え、現在は [Unsloth Dynamic](/docs/jp/ji-ben/unsloth-dynamic-2.0-ggufs.md) GGUFsを使ってローカル実行できます。GLM-5.2は **最強のオープンモデル** です。Artificial Analysisやその他多くのベンチマーク全体で、Claude 4.8 Opus、GPT-5.5、Gemini 3.1 Proと同等の性能を示しています。
[Dynamic 1-bitは **\~76.2%**](/docs/jp/moderu/glm-5.2.md#quantization-analysis) トップ1精度を達成しながら **86%小型化**します。Dynamic 2-bitは **\~82%** の精度を達成しながら **84%小型化**します。つまり、84%小さくなっているからといってモデルの性能が82%悪いわけではなく、実際にはフル版の **1.5TB** モデルより精度が約18%低いだけです。Unslothに初日アクセスを提供してくれたZ.aiに感謝します。 [**GLM-5.2-GGUF**](https://huggingface.co/unsloth/GLM-5.2-GGUF)
GLM-5.2チュートリアルを実行量子化結果
#### :gear: 使用ガイド
{% columns %}
{% column %}
2ビットの動的量子化 `UD-IQ2_M` は **239GB** のディスク容量を使用します。これは **256GBユニファイドメモリ搭載Mac** にそのまま収まり、 **1x24GB GPU** および **256GBのRAM** でもMoEオフロードを使えば問題なく動作します。
この **1ビット** 量子化は223GBのRAMに収まり、8ビットには810GBのRAMが必要です。右側で1ビットGGUFの動作をご覧ください:
{% endcolumn %}
{% column %}
{% endcolumn %}
{% endcolumns %}
**表: 推論ハードウェア要件** （単位 = 総メモリ: RAM + VRAM、またはユニファイドメモリ）
| 1ビット | 2ビット | 3ビット | 4ビット | 5ビット | 8ビット |
|---|
| 223 GB | 245 GB | 290-360 GB | 372-475 GB | 570 GB | 810 GB |
{% hint style="success" %}
最適な性能を得るには、VRAMとシステムRAMを含む利用可能な総メモリが、量子化済みモデルのファイルサイズを十分に上回っていることを確認してください。
{% endhint %}
### 推奨設定
GLM-5.2には **3つの思考モードがあります**。非思考と思考の2つのモード: **高** + **最大**。複雑なタスクにはMax Thinkingを使用してください。 [Unsloth Studio](#run-glm-5.2-in-unsloth-studio) では、UIでHigh + Max Thinkingと非Thinkingを簡単に切り替えられます。
ほとんどのユースケースでは、以下の設定を使用してください:
| デフォルト設定（ほとんどのタスク） | SWE-Bench Pro |
| ------------------- | ------------------- |
| `temperature` = 1.0 | `temperature` = 1.0 |
| `top_p` = 0.95 | `top_p` = 1.0 |
* **最大コンテキストウィンドウ:** `1,048,576`.
#### Thinkingの無効化、推論努力の変更
GLM 5.2はデフォルトで推論を使用します。また、 `reasoning_effort` を"high"、"max"、または無効にすることもできます。
思考を無効にするには、 `--chat-template-kwargs '{"enable_thinking":false}'`を使用します。 **Windows** のPowershellでは、次を使用してください: `--chat-template-kwargs "{\"enable_thinking\":false}"`
また、 `--reasoning on` または `--reasoning off` をllama.cppでも使えるようになりました!
推論努力のカスタマイズや推論の無効化には、以下の例を使用してください:
{% code overflow="wrap" expandable="true" %}
```bash
--chat-template-kwargs '{"reasoning_effort":"max"}'
--chat-template-kwargs '{"reasoning_effort":"high"}'
--chat-template-kwargs '{"enable_thinking":false}'
```
{% endcode %}
### 📈 量子化分析
また、GLM-5.2-GGUFの量子化の精度を評価するために、KLD（KLダイバージェンス）のベンチマークも実行しました。動的4ビットのUD-Q4\_K\_XLと動的5ビットのUD-Q5\_K\_XLはほぼ無損失で、より小さい量子化でも、重要な層を動的により高精度に残し、重要でない層を低ビットにすることで、非常にうまく動作します。
純粋なトップ1%精度では、 **動的1ビットは約76.2%の精度でありながら、サイズは86%小さくなります**! 動的2ビットは約82%の精度でありながら、サイズは84%小さくなります。これは、一部の層をより高い精度に動的量子化しても、モデルの性能が86%悪化するわけではなく、しかもサイズは86%小さくなることを示しています。つまり、フルの1.5TBモデルに比べて能力が24%低いだけです。
**では、「76%の精度」とは実際には何を表しているのでしょうか?**
76%のトップ1%は、「フランスの首都は」が76%パリ、24%シドニーを選ぶようになるという意味ではありません。モデルが24%「賢くない」わけでもありません。これに関しては、パリは常に100%、シドニーは0%です。76%という数値には、たとえば以下のようなコーパス全体にわたる埋め草語やストップワードが含まれます:
「小説を作って」と言うと、LLMのサンプリングにより:
* これから小説を作成します...
* 小説は以下です:
* どんなジャンルにしますか?
各例は正しいですが、\[I, The, What] の分布が変わるのです。ベースラインでは \[I] を100%の確率で使うかもしれませんが、今は \[I] が76%、\[The] が24%です。
それは **決して** 、支離滅裂な出力や誤った出力が24%の確率で出るという意味ではありません。
99.9%のKLDも一般的には良好です。とはいえ、4bit以降で大きな向上があるため、分布外の巨大なタスクには動的4ビットがおそらく最適です。
トップ1%は、KLD自体の「強制された」二項分布です。KLDは、ベースライン（BF16またはQ8\_0）と量子化版との確率の「距離」です。量子化の目的は、以下の目的関数を最小化することです:
$$
\text{minimize } \frac{1}{n} \sum{\text{D}\_{\text{KL}}\[\text{ }f(q(W))\text{ }||\text{ } f(W))\text{ }]}
$$
ここで `f` は、言語モデルの順伝播であり、 `q` は量子化操作であり、 `W` はモデルのパラメータ、つまり重みです。目的は、ベースラインの `f(W)` のロジット出力と量子化モデルの出力との「距離」をできるだけ小さくすることです。KLDを0にできれば、モデルを完全に再構成できたことになります！
私たちは **平均KLD** を以下のように使います。トレーニングコーパス全体（たとえば15Tトークン）でKLDを実行するのは高コストだからです。その代わりに **サンプリング、** トレーニングコーパスの小さな代表的サブセットを取得し **/** 下流タスクに対してそれを最適化します。 平均KLDは一般にディスク容量に対して単調な傾向を示し、1ビットでもGLM 5.2がうまく動作することがわかります！
Top-1%精度は、argmaxの項目が選ばれると仮定する単なる貪欲デコード演算子であり、1bitでは76%でベースラインのargmaxと同じものが選ばれます。
## GLM-5.2のチュートリアルを実行：
これでGLM-5.2を [llama.cpp](#run-in-llama.cpp) および [Unsloth Studio](https://unsloth.ai/docs/jp/moderu/pages/1d43caebcc2925464cc42990bf5ebdc3d13c3c85#run-glm-5.2-in-unsloth-studio)で実行できます。アクセシビリティと精度の面で最良の結果を得るために、239GBの [`UD-IQ2_M`](https://huggingface.co/unsloth/GLM-5.2-GGUF/tree/main/UD-IQ2_M) 量子化版を使用します。
### 🦥 Unsloth StudioでGLM-5.2を実行
GLM-5.2は [Unsloth Studio](/docs/jp/shii/studio.md)で実行できます。これはローカルAI向けのオープンソースWeb UIです。 **Unsloth Studioは自動的にRAMへオフロードし、マルチGPU構成を検出します**。Unsloth Studioを使えば、モデルをローカルで **MacOS、Windows**、Linux、そして：
{% columns %}
{% column %}
* 検索、ダウンロード、 [GGUFを実行](/docs/jp/shii/studio.md#run-models-locally) およびsafetensorモデル
* [**自己修復** ツール呼び出し](/docs/jp/shii/studio.md#execute-code--heal-tool-calling) + **ウェブ検索**
* [**コード実行**](/docs/jp/shii/studio.md#run-models-locally) （Python、Bash）
* [自動推論](/docs/jp/shii/studio.md#model-arena) パラメータ調整（temp、top-pなど）
* llama.cppによる高速なCPU＋GPU推論
* [LLMを学習](/docs/jp/shii/studio.md#no-code-training) VRAMを70%削減し、2倍高速
{% endcolumn %}
{% column %}
2ビットのGLM-5.2 GGUF出力
{% endcolumn %}
{% endcolumns %}
{% stepper %}
{% step %}
**Unslothのインストールと起動**
インストールするには、ターミナルで次を実行してください：
MacOS、Linux、WSL：
```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```
Windows PowerShell：
```bash
irm https://unsloth.ai/install.ps1 | iex
```
**Unslothを起動**
MacOS、Linux、WSL、Windows:
```bash
unsloth studio -H 0.0.0.0 -p 8888
```
次に開きます `http://127.0.0.1:8888` （または指定のURL）をブラウザで。
**HTTPSとCloudflareでUnslothを安全に起動**
**NEW!** Unslothでは、無料のCloudflareトンネルを通じてHTTPSでStudioを安全に起動する方法が提供されるようになりました。以下を使用してください（Windows、Mac、Linuxで動作します）:
```bash
unsloth studio --secure
```
{% endstep %}
{% step %}
**GLM-5.2を検索してダウンロード**
Unsloth Studioは自動的にRAMへオフロードし、マルチGPU構成を検出します。初回起動時には、アカウントを保護するためのパスワードを作成し、後で再度サインインする必要があります。
それから [Unsloth Chat](/docs/jp/shii/studio/chat.md) タブに移動して **GLM-5.2** を検索バーで検索し、希望するモデルと量子化をダウンロードしてください。モデルを実行するのに十分な計算資源があることを確認してください。
{% endstep %}
{% step %}
**GLM-5.2を実行**
Unsloth Studioを使用する場合、推論パラメータは自動設定されるはずですが、手動で変更することもできます。コンテキスト長、チャットテンプレート、その他の設定も編集できます。
詳細は、 [Unsloth Studio推論ガイド](/docs/jp/shii/studio/chat.md).
Canvasで動作する1ビットGLM-5.2の例
{% endstep %}
{% endstepper %}
### 🦙 llama.cppでGLM-5.2を実行
このガイドでは、 `UD-IQ2_M` 量子化を実行します。これには少なくとも245GBのRAMが必要です。量子化タイプは自由に変更できます。これらのチュートリアルでは、 [llama.cpp](llama.cpphttps://github.com/ggml-org/llama.cpp) 高速なローカル推論のために使用します。GGUF: [**GLM-5.2-GGUF**](https://huggingface.co/unsloth/GLM-5.2-GGUF)
{% stepper %}
{% step %}
最新の `llama.cpp` **を** [**GitHubこちらで入手**](https://github.com/ggml-org/llama.cpp)してください。以下のビルド手順に従うこともできます。 `-DGGML_CUDA=ON` を `-DGGML_CUDA=OFF` に変更してください。GPUがない場合や、CPU推論だけを行いたい場合です。 **Apple Mac / Metalデバイスでは**、 `-DGGML_CUDA=OFF` を設定し、その後は通常どおり続けてください。Metalサポートはデフォルトで有効です。
```bash
apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build \\
-DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp
```
{% endstep %}
{% step %}
これで `llama.cpp` を直接使ってモデルを読み込み、ダウンロードできます。 `ollama run`. まず、 `UD-IQ2_M`. さらに `export LLAMA_CACHE="unsloth/GLM-5.2-GGUF"` を使って強制してください `llama.cpp` 特定の場所に保存するには。 **このダウンロード प्रक्रियाは非常に遅いかもしれないことに注意してください**。そのため、次のセクションの手動ダウンロード手順を使うのがおそらく最善です。
```bash
export LLAMA_CACHE="unsloth/GLM-5.2-GGUF"
./llama.cpp/llama-cli \
-hf unsloth/GLM-5.2-GGUF:UD-IQ2_M \
--temp 1.0 \
--top-p 0.95 \
--min-p 0.01
```
{% endstep %}
{% step %}
モデルを手動でダウンロードしたい場合は **（はるかに高速！）**、以下のコードでモデルをダウンロードできます（ `pip install huggingface_hub`をインストールした後）。ダウンロードが止まる場合は、次を参照してください： [Hugging Face Hub、XETのデバッグ](/docs/jp/ji-ben/troubleshooting-and-faqs/hugging-face-hub-xet-debugging.md)
```bash
hf download unsloth/GLM-5.2-GGUF \
--local-dir unsloth/GLM-5.2-GGUF \
--include "*UD-IQ2_M*" # ほぼフル精度にするには "*UD-Q8_K_XL*" を使用
```
動的1bitを使いたい場合は、次のようにします：
{% code overflow="wrap" expandable="true" %}
```bash
hf download unsloth/GLM-5.2-GGUF \
--local-dir unsloth/GLM-5.2-GGUF \
--include "*UD-IQ1_S*"
```
{% endcode %}
{% endstep %}
{% step %}
次に、会話モードでモデルを実行します。 `unsloth/GLM-5.2-GGUF/UD-IQ2_M/GLM-5.2-UD-IQ2_M-00001-of-00006.gguf` は2bit用、または `unsloth/GLM-5.2-GGUF/UD-IQ1_S/GLM-5.2-UD-IQ1_S-00001-of-00006.gguf` は1bit用です。
{% code overflow="wrap" %}
```bash
./llama.cpp/llama-cli \
--model unsloth/GLM-5.2-GGUF/UD-IQ2_M/GLM-5.2-UD-IQ2_M-00001-of-00006.gguf \
--temp 1.0 \
--top-p 0.95 \
--min-p 0.01
```
{% endcode %}
{% endstep %}
{% step %}
llama-cli を起動すると、次のように表示されます：
その後、短い Flappy Bird ゲームを作るように促すと、次のようになります：
以下に、会話全体とゲームを示します：
HTMLでの完全版ゲーム
{% code overflow="wrap" expandable="true" %}
```html
サンセット・フライヤー
サンセット
フライヤー
— 夕暮れの飛行 —
✊
タップ / スペース / クリックで羽ばたく
```
{% endcode %}
会話全文
{% code overflow="wrap" expandable="true" %}
````
[思考開始]
ユーザーは短いFlappy Birdゲームを求めています。完全で自己完結型のHTMLファイルを作成し、以下を含めます：
1. クラシックなFlappy Bird風のゲーム
2. きれいなグラフィックとアニメーション
3. スコア追跡
4. ゲームオーバー画面
5. 再スタート機能
6. 良い物理挙動（重力、ジャンプの仕組み）
7. ランダムに配置されて動くパイプ
8. 効果音（Web Audio APIで音を生成）
9. きれいなビジュアルスタイル - 定番の黄色い鳥は避け、もっと面白い配色にします
次のように設計します：
- きれいなグラデーションの空背景
- 羽ばたく翼のあるアニメーション鳥
- きれいな緑／メタリックな見た目のパイプ
- スコア表示
- スタート画面、プレイ中状態、ゲームオーバー状態
- localStorageによるハイスコア保存
- スコア時のパーティクル効果
- なめらかなアニメーション
夕焼け／夕暮れのカラーパレットで個性を出します - 温かみのあるオレンジと紫に、鳥は暖かいコーラル／赤系にします。
丁寧にコードを書いていきます：
主な機能：
- Canvasベースの描画
- requestAnimationFrameのゲームループ
- 鳥の物理：重力、ジャンプのインパルス
- パイプ生成：ランダムな隙間、左へ移動
- 衝突判定
- パイプ通過時のスコア加算
- スコア時のパーティクル効果
- 死亡アニメーション
- ハイスコア用のlocalStorage
- Web Audio APIによる効果音
- モバイル／タッチ対応
- すっきり整ったUIオーバーレイ
コードを書きます。
[思考終了]
独特の夕暮れ／サンセットの雰囲気、なめらかな物理挙動、パーティクル効果、効果音を備えた洗練されたFlappy Birdゲームを作成します。
```html
サンセット・フライヤー
サンセット
フライヤー
— 夕暮れの飛行 —
✊
タップ / スペース / クリックで羽ばたく
```
作成したものはこちらです：
**テーマ**: 「Sunset Flier」 — 定番の緑／ティール系のFlappy Bird風ではなく、夕暮れのサンセット配色（深い紫 → コーラル → ゴールド）を採用し、シルエットの山々、輝く太陽、漂う雲、上空で瞬く星を配置しました。
**鳥**: コーラルピンクの鳥に黄色い羽ばたく翼を付け、くちばし、尾、追従する目をアニメーション化しました。鳥が上下するたびに翼の羽ばたきが物理的にアニメーションします。
**仕組み**:
- 反応のよい感触になるよう調整した、クラシックな重力＋羽ばたきインパルスの物理
- ランダムな隙間配置、滑らかなスクロール、太い2Dらしさのあるキャップ＋ハイライト描画のパイプ
- 鳥がパイプを通過するとスコアが増え、パーティクルの弾けとチャイムSEが鳴る
- パイプ、天井、地面との衝突でゲームオーバーになり、画面フラッシュ、画面シェイク、死亡パーティクルが発生する
**仕上げ**:
- Press Start 2PのピクセルフォントHUDで、スコア表示と、自己ベスト更新時の「新記録！」の点滅
- スコアしきい値に応じたメダルシステム（★ / ✦ / ✧ / •）付きのゲームオーバーパネル
- `localStorage`でハイスコアを保存
- 揺れるパネルのあるアニメーション付きスタート画面
- Web Audio APIによる手続き的な効果音（羽ばたき、スコア、ヒット、死亡）— 外部素材なし
- 移動する地面の縞模様／小石でスピード感を強調
- レスポンシブ対応：ビューポートに合わせて拡大縮小し、マウス、タッチ、キーボード（Space/↑/Enter）をサポート
- リトライボタン + どこをタップしても再スタートできる便利機能
ブラウザでファイルを開くだけです — タップ/クリック/スペースキーで飛べます。
````
{% endcode %}
しかもゲームにはサウンドがあり、素晴らしく動作します！ これは1ビット量子化で、うまく機能したことを忘れないでください！
{% endstep %}
{% endstepper %}
### :triangular\_ruler:KVキャッシュ量子化による長いコンテキスト
llama.cppで長いコンテキストを活用するには、メモリ使用量を減らすためにKVキャッシュ量子化を使う必要があります。最近、llama.cppはKVキャッシュ量子化に高精度化の工夫を追加しました - [参照](https://github.com/ggml-org/llama.cpp/pull/21038) および他のPR！
現在、以下のKVキャッシュdtypeがサポートされています：
{% code overflow="wrap" expandable="true" %}
```
f32, f16, bf16, q8_0, q4_0, q4_1, iq4_nl, q5_0, q5_1
```
{% endcode %}
デフォルトでは `f16` が使われます。もし `q4_0` を使うなら、重み1つあたり約4.5ビットなので、約16 / 4.5 = **3.5倍長いコンテキスト長**まで拡張できます！ つまり、元のモデルが10Kまで対応していたなら、35Kも視野に入ります！ `q4_1` のほうが、シフトパラメータも得られるのでおそらく良く、重み1つあたり5ビットです — そのため3.2倍長いコンテキストになります。
以下のように使います：
{% code overflow="wrap" expandable="true" %}
```bash
./llama.cpp/llama-cli \
--model unsloth/GLM-5.2-GGUF/UD-IQ2_M/GLM-5.2-UD-IQ2_M-00001-of-00006.gguf \
--temp 1.0 \
--top-p 0.95 \
--min-p 0.01 \\
--cache-type-k q4_1 \\
--cache-type-v q4_1
```
{% endcode %}
## 📊 ベンチマーク
GLM-5.2 のベンチマークは、以下で表形式で確認できます：
