> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/xin-zhe/studio/chat.md).

# Unsloth Studioでモデルを実行する方法

Unsloth Studioを使って、AIモデル、LLM、GGUFをローカルで実行します。

[Unsloth Studio](/docs/jp/xin-zhe/studio.md) これにより、AIモデルを100%オフラインで自分のコンピューター上で実行できます。Hugging Face から、またはローカルファイルから、GGUF や safetensors などのモデル形式を実行できます。

* **すべての macOS、CPU、Windows、Linux、WSL 環境で動作します！GPUは不要です**
* [**自己修復するツール呼び出し**](#auto-healing-tool-calling)**,** 高度な [**ウェブ検索**](#advanced-web-search), [**コード実行**](#code-execution)
* UnslothをOpenAI互換の推論として使用 [**APIエンドポイント**](/docs/jp/ji-ben/api.md) または [プロバイダーを接続](/docs/jp/lian-xie/connections.md)
* 検索 + ダウンロード + 実行 + [比較](#model-arena) GGUF、LoRAアダプター、safetensors など、あらゆるモデル。
* [**自動推論パラメータ**](#auto-parameter-tuning) 調整（temp、top-p など）とチャットテンプレートの編集
* 画像、音声、PDF、コード、DOCX など、さまざまなファイル形式をアップロードしてチャットできます。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVrjsMhR9uLeIlqzD2jAL%2Fqwen37b.gif?alt=media&amp;token=f1bb11b4-d4fa-4765-83b7-bbba563082c9" alt="" width="563"><figcaption></figcaption></figure>

### Unsloth Studio Chat の使用

{% hint style="success" %}
Unsloth Studio Chat は自動的に **マルチGPU構成** で推論を行います。
{% endhint %}

{% columns %}
{% column %}

#### コード実行

Unsloth Studio では、LLM は JavaScript だけでなく Bash や Python も実行できます。また、Claude Artifacts のようにプログラムをサンドボックス化するため、モデルはコードをテストし、ファイルを生成し、実際の計算で回答を検証できます。

これにより、モデルの回答はより信頼性が高く、正確になります。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fel6jjv4rUTRCRwcRpIr7%2Flong%20code%20exec.png?alt=media&amp;token=9d3d5930-0fdc-4d97-941c-983e5629296d" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### 自動修復ツール呼び出し

Unsloth Studio は [ツール呼び出し](#id-50-tool-calling-accuracy)を可能にするだけでなく、不正な形式や壊れたツール呼び出しも50%自動修復します。

つまり、常に推論結果を得られます **壊れたツール呼び出しなしで** 。&#x20;

たとえば Qwen3.5-4B は20以上のウェブサイトを検索し、思考トレース内でウェブ検索を行いながらソースを引用しました。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FXPQGEEr1YoKofrTatAKK%2Ftoolcallingif.gif?alt=media&amp;token=25d68698-fb13-4c46-99b2-d39fb025df08" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### 高度なウェブ検索

Unsloth の無制限かつ安全なウェブ検索は、サイトの要約をなぞるだけではなく、実際にページへ直接アクセスして関連情報やデータを収集します。これにより、はるかに正確で深い情報と文脈を提供します。検索には DuckDuckGo のプライベートで安全な API を使用します。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVrjsMhR9uLeIlqzD2jAL%2Fqwen37b.gif?alt=media&amp;token=f1bb11b4-d4fa-4765-83b7-bbba563082c9" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### UnslothをAPIエンドポイントとして使用

これで、次のようなツールを通じてローカル LLM を使用できるようになりました [Claude Code](/docs/jp/ji-ben/claude-code.md) と [Codex](/docs/jp/ji-ben/codex.md) を、Unsloth の [APIエンドポイント](#use-unsloth-as-an-api-endpoint)に接続することで利用できます。つまり、自己修復ツール呼び出し、ウェブ検索などの機能を含む Unsloth の推論を使って、これらのツール内で Qwen や Gemma のモデルを直接実行できるようになります。
{% endcolumn %}

{% column %}

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F1s98Id9xclzwMfxjXw2O%2Funsloth%20api%20cropped.png?alt=media&amp;token=64fac263-ca5b-4447-a740-41f58ec94904" alt=""><figcaption></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### 自動推論設定

次のような推論パラメータは **temperature**, **top-p**, **top-k**, [**MTP**](/docs/jp/moderu/qwen3.6.md#mtp-guide) Qwen3.5 のような新しいモデル向けに自動的に事前設定されるため、設定を気にせず最良の出力を得られます。パラメータは手動で調整でき、システムプロンプトも編集できます。

llama.cpp のスマート自動コンテキストにより、コンテキスト長の調整はもう不要です。余分なものを読み込まず、必要なコンテキストだけを使用します。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAQKsjtynvCXKtadvKhq1%2FRecording%202026-03-13%20114257.gif?alt=media&amp;token=b5bfff0c-8189-4358-9344-08d0ae17782a" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### プロバイダーを接続

[Unsloth は](/docs/jp/lian-xie/connections.md) OpenAI、Anthropic、Ollama、llama.cpp、vLLM などと接続します。

APIキーやモデルサーバーのURLを追加すれば、ローカルおよびクラウドモデルと同じチャットインターフェースで外部モデルを使えます。次の機能付きで実行できます [プロンプトキャッシュ](/docs/jp/lian-xie/connections.md#prompt-caching)、ツール呼び出し、思考、そして OpenAI のようなプロバイダー固有の機能。 [ウェブ検索](#web-search-and-thinking) と [コード実行](#code-execution).
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAQKsjtynvCXKtadvKhq1%2FRecording%202026-03-13%20114257.gif?alt=media&amp;token=b5bfff0c-8189-4358-9344-08d0ae17782a" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### モデルを検索して実行

Hugging Face で任意のモデルを検索・ダウンロードするか、ローカルファイルを使用できます。

Unsloth は幅広いモデル種類をサポートしており、 **GGUF**、視覚言語、音声合成モデルなどが含まれます。次のような最新モデルを実行できます [Qwen3.5](/docs/jp/moderu/qwen3.5.md) または NVIDIA [Nemotron 3](/docs/jp/moderu/nemotron-3.md).

画像、音声、PDF、コード、DOCX など、さまざまなファイル形式をアップロードしてチャットできます。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FBf3UDywdNSlvCBhUuVsp%2FScreenshot%202026-03-17%20at%2012.34.23%E2%80%AFAM.png?alt=media&amp;token=b6127cbf-76f7-48da-b869-3760ed5e9b42" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### チャットワークスペース

プロンプトを入力し、任意のドキュメント、画像（webp、png）、コードファイル、txt、または音声を追加コンテキストとして添付して、モデルの応答をリアルタイムで確認できます。

オン/オフ切り替え: 思考 + ウェブ検索。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FHlOKWnSB6slhE1EXgAeZ%2Fimage.png?alt=media&amp;token=b5bdfe4e-fe0e-4a2a-9eba-b04b15a79018" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

### **+50% ツール呼び出し精度**

Unsloth は、ツール呼び出しを改善するいくつかの独自機能を提供します。たとえば:

* Unsloth のすべてのモデルにおけるツール呼び出しは **30%〜80% 高精度**.
* ウェブ検索は、要約だけでなく実際のウェブコンテンツを取得します。
* 許可されるツール呼び出しの最大数は **25件以上です。**
* ツール呼び出しがより確実に終了し、ループや繰り返し呼び出しを減らします。
* 改善されたツール呼び出しの修復と重複排除ロジックにより、XML が出力に漏れるのを防ぎます。

テスト結果を見る `unsloth/Qwen3.5-4B-GGUF (UD-Q4_K_XL)` を、ウェブ検索、コード実行、思考を有効にして実行:

| 指標            | 通常のツール呼び出し | Unsloth のツール呼び出し |
| ------------- | ---------- | ---------------- |
| 応答内のXML漏れ     | 10/10      | 0/10             |
| 使用したURL取得回数   | 0          | 10回中4回           |
| 正しい曲名で実行された回数 | 0/10       | 2/10             |
| 平均ツール呼び出し回数   | 5.5        | 3.8              |
| 平均応答時間        | 12.3秒      | 9.8秒             |

### モデルアリーナ

Unsloth Chat では、同じプロンプトを使って任意の2つのモデルを並べて比較できます。たとえばベースモデルと LoRa アダプターを比較できます。推論はまず1つ目のモデルで読み込まれ、その後2つ目のモデルで行われます（並列推論は現在対応中です）。

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FC3xjqlunbpUr7nx6sQ4j%2Fimage.png?alt=media&amp;token=65501d63-1346-4a1e-b055-c94294a24305" alt="" width="563"><figcaption></figcaption></figure></div>

{% columns %}
{% column %}
学習後は、同じプロンプトでベースモデルとファインチューニング後のモデルを並べて比較し、何が変わったか、結果が改善したかを確認できます。

このワークフローにより、ファインチューニングでモデルの応答がどう変わったか、また用途に対して結果が改善したかを簡単に確認できます。
{% endcolumn %}

{% column %}

<div align="center" data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVgnE7eMPQk2vaFboJ4BU%2Fmodel%20arena%20closeup.png?alt=media&amp;token=8b0a910b-440c-4859-a846-0060e61e157b" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% hint style="success" %}
Unsloth Studio Chat は自動的に **マルチGPU構成** で推論を行います。
{% endhint %}

### 古い / 既存の GGUF モデルの使用

{% columns %}
{% column %}
**4月1日更新:** 既存のフォルダーを選択して、Unsloth に検出させることができるようになりました。

**3月27日更新:** Unsloth Studio は現在 **古い / 既存のモデルを自動検出します** Hugging Face、LM Studio などからダウンロードされたものを含みます。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FBn3Fs1cchFchl328wSOs%2FScreenshot%202026-04-05%20at%205.43.57%E2%80%AFAM.png?alt=media&amp;token=cc57ec6e-653a-4824-8e8d-a6bfbcd27493" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

**手動手順:** Unsloth Studio は、Hugging Face Hub のキャッシュにダウンロードされたモデルを検出します `(C:\Users{your_username}.cache\huggingface\hub)`。LM Studio 経由でダウンロードした GGUF モデルがある場合、それらは次の場所に保存されます `C:\Users\{your_username}.cache\lm-studio\models` ***または*** `C:\Users{your_username}\lm-studio\models` これらはデフォルトでは llama.cpp から見えません。Unsloth Studio で読み込むには、.gguf ファイルを Hugging Face Hub のキャッシュディレクトリ（または llama.cpp がアクセスできる別のパス）に移動またはコピーする必要があります。

Unsloth でモデルやアダプターをファインチューニングした後、それを GGUF にエクスポートし、 **llama.cpp** を使って Unsloth Chat 内で直接ローカル推論を実行できます。Unsloth Studio は llama.cpp と Hugging Face によって動作しています。

### コンテキストとしてファイルを追加

Unsloth Chat は会話内でマルチモーダル入力を直接サポートします。ドキュメント、画像、または音声をプロンプトの追加コンテキストとして添付できます。

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSitddQpGkOwUvirMem5P%2Fimage.png?alt=media&amp;token=43b7af91-ea86-4279-a787-b4b444640d82" alt="" width="563"><figcaption></figcaption></figure></div>

これにより、PDF、スクリーンショット、参照資料などの実世界の入力をモデルがどう扱うかを簡単にテストできます。ファイルはローカルで処理され、モデルのコンテキストとして含まれます。

### **モデルファイルの削除**

モデル検索のゴミ箱アイコンから、または既定の Hugging Face キャッシュディレクトリから該当のキャッシュ済みモデルフォルダーを削除することで、古いモデルファイルを削除できます。デフォルトでは、Hugging Face は `~/.cache/huggingface/hub/` を macOS/Linux/WSL で使用し、 `C:\Users\<username>\.cache\huggingface\hub\` を Windows で使用します。

* **MacOS、Linux、WSL:** `~/.cache/huggingface/hub/`
* **Windows:** `%USERPROFILE%\.cache\huggingface\hub\`

もし `HF_HUB_CACHE` または `HF_HOME` が設定されている場合は、その場所を代わりに使用してください。Linux と WSL では、 `XDG_CACHE_HOME` も既定のキャッシュルートを変更できます。

### **Unsloth が GPU を検出または使用していない**

Docker でモデルが特に GPU を使っていない場合は、次を試してください:

最新イメージを手動で取得:

```bash
 docker pull unsloth/unsloth:latest
```

* GPU アクセス付きでコンテナを起動:
  * `docker run`: `--gpus all`
  * Docker Compose: `capabilities: [gpu]`
* Linux では、NVIDIA Container Toolkit がインストールされていることを確認してください。
* Windows では:
  * 確認してください `nvcc --version` が、以下に表示される CUDA バージョンと一致することを `nvidia-smi`
  * 次を参照: <https://docs.docker.com/desktop/features/gpu/>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/jp/xin-zhe/studio/chat.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
