> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/shii/studio/chat.md).

# Unslothでモデルを実行する方法

Unsloth StudioでAIモデル、LLM、GGUFをローカルに実行します。

[Unsloth Studio](/docs/jp/shii/studio.md) Unsloth と Unsloth Desktop を使うと、AI モデルをコンピューター上で 100% オフラインで実行できます。Hugging Face またはローカルファイルから、GGUF や safetensors などのモデル形式を実行できます。

* **すべての macOS、CPU、Windows、Linux、WSL 環境で動作します！GPU は不要です**
* [**自己修復ツール呼び出し**](#auto-healing-tool-calling)**,** 高度な [**ウェブ検索**](#advanced-web-search), [**コード実行**](#code-execution)
* Unsloth を OpenAI 互換の推論 [**API エンドポイント**](/docs/jp/ji-chu/api.md) として使用するか、 [プロバイダーに接続する](/docs/jp/tong-he/connections.md)
* 検索 + ダウンロード + 実行 + [比較](#model-arena) GGUF、LoRA アダプター、safetensors など、あらゆるモデル。
* [**推論パラメータの自動**](#auto-parameter-tuning) 調整（temp、top-p など）とチャットテンプレートの編集
* 画像、音声、PDF、コード、DOCX など、さまざまなファイル形式をアップロードしてチャットできます。

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVrjsMhR9uLeIlqzD2jAL%2Fqwen37b.gif?alt=media&amp;token=f1bb11b4-d4fa-4765-83b7-bbba563082c9" alt="" width="563"><figcaption></figcaption></figure>

### Unsloth Studio Chat の使用

{% hint style="success" %}
Unsloth Studio Chat は自動的に **マルチ GPU セットアップ** で動作します。
{% endhint %}

{% columns %}
{% column %}

#### コード実行

Unsloth Studio では、LLM が JavaScript だけでなく Bash や Python も実行できます。さらに Claude Artifacts のようなプログラムをサンドボックス化するため、モデルはコードをテストし、ファイルを生成し、実際の計算で回答を検証できます。

これにより、モデルの回答はより信頼性が高く、正確になります。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fel6jjv4rUTRCRwcRpIr7%2Flong%20code%20exec.png?alt=media&amp;token=9d3d5930-0fdc-4d97-941c-983e5629296d" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### 自動修復ツール呼び出し

Unsloth Studio は [ツール呼び出し](#id-50-tool-calling-accuracy)を可能にするだけでなく、不正な形式や壊れたツール呼び出しも 50% 自動修復します。

つまり、常に推論出力を得られます **壊れたツール呼び出し** なしで。&#x20;

例: Qwen3.5-4B は 20 以上の Web サイトを検索して出典を引用し、思考トレースの内部でウェブ検索を実行しました。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FXPQGEEr1YoKofrTatAKK%2Ftoolcallingif.gif?alt=media&amp;token=25d68698-fb13-4c46-99b2-d39fb025df08" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### 高度なウェブ検索

Unsloth の無制限で安全なウェブ検索は、サイト要約をなぞるだけでなく、実際にページを直接訪問して関連情報やデータを収集します。これにより、より正確で深い情報とコンテキストを出力できます。検索には DuckDuckGo のプライベートで安全な API を使用します。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVrjsMhR9uLeIlqzD2jAL%2Fqwen37b.gif?alt=media&amp;token=f1bb11b4-d4fa-4765-83b7-bbba563082c9" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### Unsloth を API エンドポイントとして使用する

これで、次のようなツールを通じてローカル LLM を使用できるようになりました [Claude Code](/docs/jp/ji-chu/claude-code.md) と [Codex](/docs/jp/ji-chu/codex.md) を Unsloth の [API エンドポイント](#use-unsloth-as-an-api-endpoint)に接続することで。つまり、自己修復ツール呼び出し、ウェブ検索などの機能を含む Unsloth の推論で、これらのツール内から Qwen や Gemma モデルを直接実行できるようになります。
{% endcolumn %}

{% column %}

<figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F1s98Id9xclzwMfxjXw2O%2Funsloth%20api%20cropped.png?alt=media&amp;token=64fac263-ca5b-4447-a740-41f58ec94904" alt=""><figcaption></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### 推論設定の自動化

次のような推論パラメータ **temperature**, **top-p**, **top-k**, [**MTP**](/docs/jp/moderu/qwen3.6.md#mtp-guide) は、Qwen3.5 のような新しいモデル向けに自動的に事前設定されるため、設定を気にせず最良の出力を得られます。パラメータを手動で調整したり、システムプロンプトを編集したりすることもできます。

llama.cpp のスマート自動コンテキストにより、必要なコンテキストだけを使用し、余計なものを読み込まずに済むため、コンテキスト長の調整はもう不要です。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAQKsjtynvCXKtadvKhq1%2FRecording%202026-03-13%20114257.gif?alt=media&amp;token=b5bfff0c-8189-4358-9344-08d0ae17782a" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### プロバイダーを接続する

[Unsloth は](/docs/jp/tong-he/connections.md) OpenAI、Anthropic、Ollama、llama.cpp、vLLM などに接続します。

API キーやモデルサーバー URL を追加し、ローカル + クラウドモデルと同じチャットインターフェースで外部モデルを使用できます。 [プロンプトキャッシュ](/docs/jp/tong-he/connections.md#prompt-caching)、ツール呼び出し、思考、および OpenAI のようなプロバイダーネイティブ機能で実行できます [ウェブ検索](#web-search-and-thinking) と [コード実行](#code-execution).
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAQKsjtynvCXKtadvKhq1%2FRecording%202026-03-13%20114257.gif?alt=media&amp;token=b5bfff0c-8189-4358-9344-08d0ae17782a" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### モデルを検索して実行する

Hugging Face 経由で任意のモデルを検索・ダウンロードするか、ローカルファイルを使用できます。

Unsloth は次のような幅広いモデルタイプをサポートしています **GGUF**、視覚言語モデル、音声合成モデル。次のような最新モデルを実行できます [Qwen3.5](/docs/jp/moderu/qwen3.5.md) または NVIDIA [Nemotron 3](/docs/jp/moderu/nemotron-3.md).

画像、音声、PDF、コード、DOCX など、さまざまなファイル形式をアップロードしてチャットできます。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FBf3UDywdNSlvCBhUuVsp%2FScreenshot%202026-03-17%20at%2012.34.23%E2%80%AFAM.png?alt=media&amp;token=b6127cbf-76f7-48da-b869-3760ed5e9b42" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column %}

#### チャットワークスペース

プロンプトを入力し、追加コンテキストとして任意のドキュメント、画像（webp、png）、コードファイル、txt、または音声を添付して、モデルの応答をリアルタイムで確認できます。

オン/オフを切り替え: 思考 + ウェブ検索。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FHlOKWnSB6slhE1EXgAeZ%2Fimage.png?alt=media&amp;token=b5bdfe4e-fe0e-4a2a-9eba-b04b15a79018" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

### **+50% ツール呼び出し精度**

Unsloth にはツール呼び出しを改善するいくつかの独自機能があります。たとえば:

* Unsloth のすべてのモデルでのツール呼び出しは **30% から 80% 高精度**.
* ウェブ検索は、要約だけでなく実際の Web コンテンツを取得します。
* 許可されるツール呼び出しの最大数は **25 を超えます。**
* ツール呼び出しの終了がより確実になり、ループや繰り返し呼び出しが減ります。
* ツール呼び出しの修復と重複排除ロジックの改善により、XML が出力に漏れ出すのを防ぎます。

次のテスト結果を見る `unsloth/Qwen3.5-4B-GGUF (UD-Q4_K_XL)` ウェブ検索、コード実行、思考を有効にした場合:

| 指標             | 通常のツール呼び出し | Unsloth のツール呼び出し |
| -------------- | ---------- | ---------------- |
| 応答内の XML 漏れ    | 10/10      | 0/10             |
| 使用された URL フェッチ | 0          | 10 回中 4 回        |
| 正しい曲名で実行された回数  | 0/10       | 2/10             |
| 平均ツール呼び出し回数    | 5.5        | 3.8              |
| 平均応答時間         | 12.3秒      | 9.8秒             |

### モデルアリーナ

Unsloth Chat では、同じプロンプトを使って任意の 2 つのモデルを並べて比較できます。例: ベースモデルと LoRA アダプターを比較できます。推論はまず 1 つ目のモデルを読み込み、その後 2 つ目を読み込みます（並列推論は開発中です）。

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FC3xjqlunbpUr7nx6sQ4j%2Fimage.png?alt=media&amp;token=65501d63-1346-4a1e-b055-c94294a24305" alt="" width="563"><figcaption></figcaption></figure></div>

{% columns %}
{% column %}
学習後は、同じプロンプトでベースモデルとファインチューニング後のモデルを並べて比較し、何が変わったか、結果が改善したかを確認できます。

このワークフローにより、ファインチューニングがモデルの応答にどのような変化をもたらしたか、そしてユースケースに対して結果が改善したかを簡単に確認できます。
{% endcolumn %}

{% column %}

<div align="center" data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVgnE7eMPQk2vaFboJ4BU%2Fmodel%20arena%20closeup.png?alt=media&amp;token=8b0a910b-440c-4859-a846-0060e61e157b" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% hint style="success" %}
Unsloth Studio Chat は自動的に **マルチ GPU セットアップ** で動作します。
{% endhint %}

### 古い / 既存の GGUF モデルの使用

{% columns %}
{% column %}
**4月1日更新:** 既存のフォルダを選択して、Unsloth に検出させることができます。

**3月27日更新:** Unsloth Studio は現在 **古い / 既存のモデルを自動検出します** Hugging Face、LM Studio などからダウンロードされたもの。
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FBn3Fs1cchFchl328wSOs%2FScreenshot%202026-04-05%20at%205.43.57%E2%80%AFAM.png?alt=media&amp;token=cc57ec6e-653a-4824-8e8d-a6bfbcd27493" alt=""><figcaption></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

**手動手順:** Unsloth Studio は、Hugging Face Hub のキャッシュにダウンロードされたモデルを検出します `(C:\Users{your_username}.cache\huggingface\hub)`. LM Studio 経由でダウンロードした GGUF モデルがある場合、これらは `C:\Users\{your_username}.cache\lm-studio\models` ***または*** `C:\Users{your_username}\lm-studio\models` に保存され、デフォルトでは llama.cpp からは見えません。Unsloth Studio で読み込むには、これらの .gguf ファイルを Hugging Face Hub のキャッシュディレクトリ（または llama.cpp からアクセス可能な別のパス）へ移動またはコピーする必要があります。

Unsloth でモデルやアダプターをファインチューニングした後、それを GGUF にエクスポートして、 **llama.cpp** を使って Unsloth Chat で直接ローカル推論を実行できます。Unsloth Studio は llama.cpp と Hugging Face によって支えられています。

### ファイルをコンテキストとして追加する

Unsloth Chat は会話内でマルチモーダル入力を直接サポートします。ドキュメント、画像、音声をプロンプトの追加コンテキストとして添付できます。

<div data-with-frame="true"><figure><img src="https://735611837-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSitddQpGkOwUvirMem5P%2Fimage.png?alt=media&amp;token=43b7af91-ea86-4279-a787-b4b444640d82" alt="" width="563"><figcaption></figcaption></figure></div>

これにより、PDF、スクリーンショット、参考資料などの実世界の入力をモデルがどのように扱うかを簡単にテストできます。ファイルはローカルで処理され、モデルのコンテキストとして含まれます。

### **モデルファイルの削除**

古いモデルファイルは、モデル検索のゴミ箱アイコンから削除するか、既定の Hugging Face キャッシュディレクトリから該当するキャッシュ済みモデルフォルダを削除することで消せます。既定では、Hugging Face は `~/.cache/huggingface/hub/` を macOS/Linux/WSL で使用し、 `C:\Users\<username>\.cache\huggingface\hub\` を Windows で使用します。

* **MacOS、Linux、WSL:** `~/.cache/huggingface/hub/`
* **Windows:** `%USERPROFILE%\.cache\huggingface\hub\`

もし `HF_HUB_CACHE` または `HF_HOME` が設定されている場合は、その場所を使用してください。Linux と WSL では、 `XDG_CACHE_HOME` も既定のキャッシュルートを変更できます。

### **Unsloth が GPU を検出しない、または使用しない**

Docker でモデルが特に GPU を使っていない場合は、次を試してください:

最新イメージを手動で取得:

```bash
 docker pull unsloth/unsloth:latest
```

* GPU アクセスを有効にしてコンテナを起動:
  * `docker run`: `--gpus all`
  * Docker Compose: `capabilities: [gpu]`
* Linux では、NVIDIA Container Toolkit がインストールされていることを確認してください。
* Windows では:
  * 次を確認してください `nvcc --version` が次に示す CUDA バージョンと一致していること `nvidia-smi`
  * 次を参照: <https://docs.docker.com/desktop/features/gpu/>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/jp/shii/studio/chat.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
