> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/ji-ben/mcp.md).

# ローカルLLMでMCPサーバーを使う方法

このステップ・バイ・ステップのガイドでは、接続方法を説明します **Model Context Protocol（MCP）** などのローカルLLMへ [Qwen](/docs/jp/moderu/qwen3.6.md) または [Gemma](/docs/jp/moderu/gemma-4.md)を接続することで、実行するどのモデルでもMCP経由で外部ツールやサービスを呼び出せるようになります。 MCPをローカルモデルに接続すると、記憶だけで会話するのではなく、ローカルのファイル、アプリ、データベース、ツールを安全に使えるようになり、実際の環境で動作できる、より便利でプライベートで相互運用可能なAIアシスタントを構築できます。

今回はオープンソースのリポジトリである [Unsloth](https://github.com/unslothai/unsloth) と [llama.cpp](#llama.cpp-guide) を使います。これらはローカルモデル推論/デプロイの人気フレームワークだからです。MCPはローカルのGGUFモデルとクラウド [提供元のモデル](/docs/jp/tong-he/connections.md). **また、** [**複数のMCPサーバー**](#using-multiple-mcp-servers) **の活用方法も紹介します。**

MCPツールは、次のような他のモデル機能と並行して動作します [コード実行](/docs/jp/shii/studio/chat.md#code-execution) と [ウェブ検索](/docs/jp/shii/studio/chat.md#advanced-web-search)。そのため、1つのモデルでWeb検索、コード実行、接続済みサービスの呼び出しを同じスレッド内で行えます。

### ユースケース

MCPサーバーを接続すると、ローカルモデルにさまざまな自動化タスクを依頼できます。例をいくつか挙げます。

* **ドキュメントを検索：** 「関連するドキュメントを見つけて、セットアップ手順を要約して。」 - Context7を使えます。
* **コードベースを分析：** 「このリポジトリを整理して、認証、課金、データアクセスがどこで行われているか説明して。」 - GitHub公式MCPとGitMCPを使ってリポジトリを分析できます。
* **埋め込みでWeb検索** - ExaのMCPサーバーを使うと、コンテキスト埋め込み対応の意味検索ができます。
* **WebサイトのUIをデバッグ** - PlaywrightとChrome DevToolsのMCPサーバーを使ってWebサイトを操作し、問題の修正点を見つけられます。

### クイックスタート

今回は、デバイス上のローカルモデルをMCPサーバーに接続する2つの方法を紹介します。どちらもオープンソースのパッケージを使います： [Unsloth](https://github.com/unslothai/unsloth) と [llama.cpp](llama.cpphttps://github.com/ggml-org/llama.cpp) モデルを実行、提供、デプロイするための。

<a href="/pages/b48e7df06c5fe4b498e941086d9a6927845ec494#unsloth-guide" class="button primary">Unsloth MCPガイド</a><a href="/pages/b48e7df06c5fe4b498e941086d9a6927845ec494#llama.cpp-guide" class="button primary">Llama.cpp MCPガイド</a>

### 🦥 Unslothガイド

この例では、Unslothを使って次のような任意のローカルモデルを接続します [Qwen3.6](/docs/jp/moderu/qwen3.6.md) または [Gemma 4](/docs/jp/moderu/gemma-4.md) を、以下のMCPサーバーに： [Vercel](https://mcp.vercel.com), [Context7](https://context7.com/), [Exa](https://exa.ai/) と [Hugging Face](https://huggingface.co/docs/hub/en/agents-mcp)。その後、そのモデルに何ができるかを尋ねます。手順はどのMCPサーバーでも同じです。

{% stepper %}
{% step %}

#### Unsloth Studioのセットアップ

次に、インストールとセットアップが必要です [Unsloth](/docs/jp/shii/studio.md)、これによりUIインターフェースでクラウドモデルを実行できるようになります。 [こちらを参照](/docs/jp/shii/studio/install.md) して、より詳しい手順をご覧ください。

{% tabs %}
{% tab title="macOS" %}

#### ステップ1: Unslothのセットアップ

Macから `ターミナル` を開き、以下のコマンドを入力してUnslothをインストールします。

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

環境と必要なパッケージがインストールされます。続行するよう求められたら、 `Y` と入力してEnterを押してください。セットアップが完了すると、サーバーはローカルのポート `8888`.

<figure><img src="/files/911b9883060def0d092c143792f31dd9552de2ac" alt="" width="375"><figcaption></figcaption></figure>

{% hint style="info" %}
インストール中にアプリの起動をスキップした場合は、後から次のコマンドで起動できます。 `unsloth studio -p 8888`。ネットワーク上の他のデバイスからの接続を許可するには、 `unsloth studio -H 0.0.0.0 -p 8888` を使ってください。
{% endhint %}

#### ステップ2: Unslothを起動

お好みのブラウザーを開き、 `http://127.0.0.1:8888`  をURL欄に入力します。Unslothを初めてインストールした場合は、パスワードページに移動し、新しいパスワードを作成する必要があります。その後、下図のようにチャットページが表示されます。
{% endtab %}

{% tab title="Windows" %}

#### ステップ1: Unslothのセットアップ

スタートメニューを開き、 `PowerShell`を検索して起動します。インストールコマンドをコピーして入力します：

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

自動的にインストールが始まります。インストール完了後、PowerShellはUnsloth Studioを起動するかどうかを尋ねま&#x3059;**.**

<figure><img src="/files/911b9883060def0d092c143792f31dd9552de2ac" alt="" width="375"><figcaption></figcaption></figure>

以下のコマンドでも起動できます：

```bash
unsloth studio -H 0.0.0.0 -p 8888
```

{% hint style="info" %}
PC/コンピューターの外部にいるクライアントからインスタンスにアクセスできるようにしたい場合は、\
&#x20;`-H 0.0.0.0` を `unsloth studio` コマンドに追加してください。
{% endhint %}

#### ステップ2: Unslothを起動

開く `http://127.0.0.1:8888` ブラウザーで。初回起動時は、チャットページへ進むために新しいパスワードを作成してください。 **Unsloth Studio** はインストールされ、すぐに使用できます。
{% endtab %}

{% tab title="Linux、WSL" %}

#### ステップ1: Unslothのセットアップ

{% tabs %}
{% tab title="Linux" %}
ターミナルアプリケーションを開きます。 `Ctrl + Alt + T`を押すか、 `Terminal` をシステムのアプリケーションメニューから検索して起動できます。
{% endtab %}

{% tab title="WSL" %}
Windowsのスタートメニューをクリックし、インストール済みディストロの名前（例： `Ubuntu`）を入力してから開きます。

{% hint style="warning" %}
では **WSL**、 **NVIDIAドライバー** が **Windows** にインストールされていること（WSL内ではなく）、また **CUDAツールキット** がWSLディストロ内にインストールされていることを確認してください。詳細は以下のシステム要件を参照してください。
{% endhint %}
{% endtab %}
{% endtabs %}

インストールするには、インストールコマンドをコピーして実行します：

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

次に：

1. ターミナルウィンドウ内をクリック
2. コマンドを貼り付け `Ctrl + Shift + V`
3. を押す `Enter`

Unslothは下のように環境のセットアップと必要なパッケージのインストールを開始します。 **Y** と入力して `Enter` を押し、Unslothの起動を許可するか尋ねられたら承認してください。これでUnslothがローカルの **8888** ポートで起動します。

<figure><img src="/files/f1400537616728bd8126c7e63eb295b63c379bb4" alt=""><figcaption></figcaption></figure>

{% hint style="info" %}
インストール中にUnslothを起動しないことを選んだ場合でも、Unslothアプリはいつでも起動できます。 `unsloth studio -p 8888` PC/コンピューターの外部にいるクライアントからUnslothインスタンスにアクセスできるようにしたい場合は、 `-H 0.0.0.0` を `unsloth studio` コマンドに追加してください。
{% endhint %}

#### ステップ2: Unslothを起動

お好みのブラウザーを開き、 `http://127.0.0.1:8888`  をURL欄に入力します。Unslothを初めてインストールした場合は、パスワードページに移動し、新しいパスワードを作成する必要があります。その後、Unslothは下図のようにチャットページで開くはずです。
{% endtab %}
{% endtabs %}
{% endstep %}

{% step %}

#### **MCPを有効化**

チャットツールバーの「MCP」をクリックします。

<figure><img src="/files/84ee2c6580d4c107df28f18eb44405d6e985ba46" alt=""><figcaption></figcaption></figure>

Unsloth StudioにはデフォルトでContext7、Exa、Hugging Face向けのMCPサポートがあります。Exaをオンにすると [ウェブ検索](/docs/jp/shii/studio/chat.md#advanced-web-search) 既定の検索ツールは無効になります。
{% endstep %}

{% step %}

#### **カスタムMCPサーバーを追加する**

VercelのMCPサーバーを追加するには、「Add custom MCP」をクリックすると、次のポップアップが表示されます：

<figure><img src="/files/915e124a5ab1efb2e38821e8885f39532b997199" alt=""><figcaption></figcaption></figure>

サーバーの詳細を入力します：

1. **表示名**：わかりやすいラベル、例えば `Vercel`.
2. **URL**：サーバーのベースエンドポイント、例えば `https://mcp.vercel.com`.
3. 以下から認証方法を選択します。

{% tabs %}
{% tab title="OAuthサインイン" %}
ブラウザベースの認証が必要なサーバー（GitHub、Linear、Vercelなど）の場合は、 **Use OAuth sign-in**をオンにします。最初の接続時にブラウザウィンドウが開くので、Unslothの認証を行えます。
{% endtab %}

{% tab title="カスタムヘッダー" %}
トークンで認証するサーバーの場合は、OAuthをオフのままにして **ヘッダーを追加** を **カスタムヘッダー**の下でクリックします。 `Authorization` トークンを含むヘッダーを追加します：

```
Authorization: Bearer <your-token>
```

{% endtab %}
{% endtabs %}

<figure><img src="/files/42a909afd7ccd90821524d6881a8989b8b3aceb3" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### **テストして追加**

クリック **接続をテスト** して、Unslothがサーバーに到達できることを確認します。成功したら、 **サーバーを追加** をクリックして保存します。

もし **接続をテスト** 失敗する場合は、URLがサーバーのベースエンドポイント（ドキュメントページではない）であることと、認証方法が正しいことを確認してください。以下のトラブルシューティングを参照してください。

<figure><img src="/files/c45e1d14236ed227063ae4121a1c5ecb59d4ff43" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### **読み込まれたツールを確認**

これでサーバーがMCP Servers一覧に表示されます。Unslothが自動的にツールを取得し、たとえば次のような確認メッセージを表示します： *「Vercel」を更新しました（18ツール）*.

各サーバーには、 **トグル** のオン/オフ切り替え、 **更新** 、そのツールの **編集** 、または **削除** のための操作があります。サーバー側のトグルと **Use MCP Servers** のメイントグルの両方をオンにしてから、ダイアログを閉じてください。

有効化されている場合は強調表示されます。もう一度クリックするだけで無効化することもできます。

<figure><img src="/files/b32994f34f61102047c719c7111c2b5eb76fbc43" alt=""><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### **チャットで使う**

から任意のモデルを選んで **モデルを選択** チャットを始めます。これで、要求に応じてモデル自身がサーバーのツールを呼び出せるようになります。

上では、ローカルの `gemma-4-E2B-it-GGUF` に対して *「Vercel MCPサーバーを使えますか？」* と尋ね、実行可能な操作として、プロジェクト管理、ログ分析、チーム一覧表示、アクセスリンク生成、ドメイン確認、Vercelのドキュメント検索を報告しました。

<figure><img src="/files/b219cc1ca98a702bc7121424c52ff9d28982a56b" alt=""><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}

#### 複数のMCPサーバーを使う

3つのように複数のMCPサーバーを呼び出すのはどうでしょう？ Unsloth Studioの既定のExa、Context7、Hugging Face提供のMCPサーバーを使い、3つすべてを有効にします。

「UnslothはQwenのファインチューニングをサポートできますか？」と尋ねると、Exaがそれについて詳しく教えてくれます：

<figure><img src="/files/59568e2257cf1c6f70c9468adc37d2cf273df238" alt=""><figcaption></figcaption></figure>

次にフォローアップで「これをどうやるかUnslothのドキュメントを検索して」と入力すると、ドキュメントにはContext7が使われます：

<figure><img src="/files/4ba1d3977a50def3530f050fe0c39c4e68fb8e9a" alt=""><figcaption></figcaption></figure>

次に「Hugging Faceで unsloth/Qwen models を検索して」と入力すると、Hugging FaceのMCPサーバーが呼び出されます：

<figure><img src="/files/a549123dce9a2bbbce06ca0daf5e4e7595961c4e" alt=""><figcaption></figcaption></figure>

#### 別の具体的なユースケース例

サーバーに接続したら、平易な言葉で実際の作業をモデルに依頼しましょう。Vercelサーバーの例をいくつか挙げます：

* **失敗したビルドをデバッグ**: *「最新のデプロイのビルドログを取得して、失敗した理由を教えて。」*
* **デプロイ状況を確認**: *「最新のデプロイを一覧表示して、それぞれのステータスを教えて。」*
* **ドキュメントを検索**: *「カスタムドメインの設定方法についてVercelのドキュメントを検索して。」*
* **ドメイン調査**: *「 `myproject.dev` は利用可能？ 価格はいくら？」*

### 🦙 Llama.cppガイド

{% stepper %}
{% step %}

#### llama.cppをインストールまたはビルドする

**macOS:**

```bash
brew install llama.cpp
```

または **Linux、Windows、WSLでは** ソースからビルドします：

```bash
git clone https://github.com/ggml-org/llama.cpp
cmake -S llama.cpp -B llama.cpp/build -DCMAKE_BUILD_TYPE=Release
cmake --build llama.cpp/build --config Release -j --target llama-server llama-cli
```

{% endstep %}

{% step %}

#### GGUFでllama-serverを起動する

この例では [Gemma 4](/docs/jp/moderu/gemma-4.md) E4B GGUFを使っています：

```bash
llama-server \\
  -hf unsloth/gemma-4-E4B-it-GGUF:UD-Q4_K_XL \
  --alias local \
  --host 127.0.0.1 \
  --port 8080 \
  --no-ui \
  --temp 1.0 \\
  --top-p 0.95 \\
  --top-k 64 \\
  --reasoning off
```

より大きいGemma 4 26B-A4Bモデルの場合：

```bash
llama-server \\
  -hf unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_M \
  --alias local \
  --host 127.0.0.1 \
  --port 8080 \
  --no-ui \
  --temp 1.0 \\
  --top-p 0.95 \\
  --top-k 64 \\
  --reasoning off
```

推論パラメータの詳細な調整については、 [Gemma 4ガイド](/docs/jp/moderu/gemma-4.md).

サーバーをテストできます：

```bash
curl http://127.0.0.1:8080/v1/chat/completions \
  -H "Content-Type: application/json" \\
  -H "Authorization: Bearer none" \
  -d '{
    "model": "local",
    "messages": [{"role": "user", "content": "1文でこんにちはと言ってください。"}]
  }'
```

{% endstep %}

{% step %}

#### MCP用のファイルシステムサンドボックスを作成する

```bash
mkdir -p ~/mcp-workspace
cd ~/mcp-workspace
pwd
```

絶対パスをコピーします。MCPホスト用に別のプロジェクトフォルダを作成します：

```bash
mkdir -p ~/llama-mcp
cd ~/llama-mcp
```

作成 `server_config.json`:

{% code expandable="true" %}

```json
{
  "mcpServers": {
    "filesystem": {
      "command": "npx",
      "args": [
        "-y",
        "@modelcontextprotocol/server-filesystem",
        "/ABSOLUTE/PATH/TO/mcp-workspace"
      ],
      "env": {}
    }
  }
}
```

{% endcode %}

実際の作業スペースのパスに置き換えてください。IBMの `mcp-cli` のドキュメントは、この同じ `server_config.json` 形式と同じ `npx -y @modelcontextprotocol/server-filesystem /path/to/allowed/files` ファイルシステム設定を使っています。
{% endstep %}

{% step %}

#### llama.cppに対してターミナルMCPホストを実行する

IBMの `mcp-cli`を使います。これは、チャットモード、ツール検出、カスタムのOpenAI互換プロバイダー対応を備えたコマンドラインのMCPクライアント/ホストです。ドキュメントでは `uvx mcp-cli --help`、プロジェクトの `server_config.json`、および実行時のOpenAI互換プロバイダーのカスタム対応を `--api-base` と `--api-key`.

`mcp-cli` で行えます。起動には設定ファイルが必要です。そのため、それを作成する手順を追加する必要があります。例：

{% code title="" expandable="true" %}

```bash
mkdir -p ~/.chuk_llm
cat > ~/.chuk_llm/config.yaml <<'YAML'
openai_compatible:
  client_class: "chuk_llm.llm.providers.openai_client:OpenAILLMClient"
  default_model: "local"
  models: ["*"]
YAML
```

{% endcode %}

次に実行：

```bash
uvx mcp-cli \
  --provider llamacpp \
  --api-base http://127.0.0.1:8080/v1 \
  --api-key none \
  --model local \
  --server filesystem \
  --config-file server_config.json
```

次を試してください：

```
ファイルシステム作業スペース内のファイルを一覧表示してください。
```

次に：

```
1行の挨拶文でhello.txtを作成し、その後読み戻してください。
```

`mcp-cli` はデフォルトでツール呼び出しの確認が有効になっているので、ツール実行前にプロンプトが表示されるはずです。

**完全なコード例：**

{% code expandable="true" %}

```bash
# terminal 1
llama-server -hf unsloth/gemma-4-E4B-it-GGUF:UD-Q4_K_XL \
  --alias local --host 127.0.0.1 --port 8080 --no-ui \
  --temp 1.0 --top-p 0.95 --top-k 64 \
  --chat-template-kwargs '{"enable_thinking":false}'

# terminal 2, in the folder with server_config.json
uvx mcp-cli \
  --provider llamacpp \
  --api-base http://127.0.0.1:8080/v1 \
  --api-key none \
  --model local \
  --server filesystem \
  --config-file server_config.json
```

{% endcode %}
{% endstep %}
{% endstepper %}

### トラブルシューティング

サーバーへの接続に失敗するか、ツールが表示されない場合は、URLがサーバーのベースエンドポイント（例： `https://mcp.vercel.com`）であることを確認してください。ドキュメントやダッシュボードのページではありません。OAuthサーバーの場合は、開いたときにブラウザでサインインを完了してください。トークンベースのサーバーの場合は、 `Authorization` ヘッダーとトークンが有効であることを確認してください。

クリック **更新** 接続後もツールが表示されない場合は、 **Use MCP Servers** 個別のサーバーのトグルとメイントグルの両方がオンになっていることを確認してください。

### セキュリティ上の注意

信頼できるMCPサーバーのみを接続してください。要求された権限を確認し、プライベートデータの読み取り、デプロイの変更、ドメイン購入、プロジェクトの変更を行う操作では、人間の確認を有効にしておいてください。MCPサーバーをWeb検索や他のツールと組み合わせる場合は特に注意してください。プロンプト注入されたコンテンツが望ましくないツール呼び出しを引き起こそうとする可能性があるためです。

### 人気のMCPサーバー

接続できる人気で便利なMCPサーバーの一覧です：

| MCPサーバー                          | 最適用途                         | 便利な理由                                                                                                                                                                  |
| -------------------------------- | ---------------------------- | ---------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| **GitHub MCP**                   | リポジトリ、issue、PR、コード検索、Actions | リポジトリ、issue、プルリクエスト、Actions、コードセキュリティなどを対象とした、リモートとローカルのセットアップに対応するGitHub公式MCP。（[GitHub](https://github.com/github/github-mcp-server))                                 |
| **Context7**                     | 最新のライブラリドキュメントと例             | 古い学習データに頼らず、コーディングアシスタント向けに現在のバージョン固有のドキュメントを取得します。使用： `https://mcp.context7.com/mcp`. ([GitHub](https://github.com/upstash/context7))                                 |
| **Notion MCP**                   | ドキュメント、ノート、タスク、プロジェクト知識      | 仕様書、PRD、ロードマップ、ノートにNotionを使っているチームに適しています。ホスト型MCPはワークスペースの内容を読み書きできます。（[Notion Developers](https://developers.notion.com/guides/mcp/overview))                         |
| **Slack MCP**                    | チーム会話の検索                     | AIツールがSlackのメッセージ、チャンネル、ファイル、スレッド、メンバー情報を問い合わせられるようにします。実行できる操作は権限によって異なります。（[Slack](https://slack.com/help/articles/48855576908307-Guide-to-the-Slack-MCP-server))    |
| **Linear MCP**                   | issue、プロジェクト、製品ワークフロー        | Linearのissue、プロジェクト、コメント、関連オブジェクトを検索・作成・更新するための公式リモートMCP。（[Linear](https://linear.app/changelog/2025-05-01-mcp))                                                       |
| **Vercel MCP**                   | デプロイ、ログ、ドキュメント、ドメイン          | フロントエンド/Webのワークフローに便利です。デプロイ、ログ、ドキュメント、プロジェクトのコンテキストを調べられます。まずクライアント互換性を確認してください。（[Vercel](https://vercel.com/docs/agent-resources/vercel-mcp?utm_source=chatgpt.com)) |
| **Sentry MCP**                   | 本番環境のデバッグ                    | 人間が介在する開発ワークフローで、Sentryのissue、トレース、エラー、パフォーマンスデータをエージェントが調べるのに役立ちます。（[GitHub](https://github.com/getsentry/sentry-mcp))                                                |
| **Filesystem / local files MCP** | ローカルのプロジェクトファイル              | ローカルLLM環境で便利です。通常は `stdio`経由で使います。参考用サーバーは、例や出発点として扱うのが最適です。（[GitHub](https://github.com/modelcontextprotocol/servers))                                                |


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/jp/ji-ben/mcp.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.