> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/jp/tong-he/hermes-agent.md). # Hermes AgentでローカルAIモデルを実行する方法 このガイドを使うと、以下を用いてローカルでオープンLLMを実行できます **Hermes Agent** を介して [**Unsloth**](https://github.com/unslothai/unsloth)。Hermes Agent は **オープンソースの** 自律型AIエージェントで、モデルのエンドポイントに接続し、タスクを実行し、記憶と学習したスキルを通じて時間とともに改善します。 これは、あらゆる **ローカルモデル** を介して公開された Unsloth の **OpenAI互換API**で動作します。対象には DeepSeek、Qwen、Gemma などが含まれます。Hermes はエージェントクライアントとして機能し、Unsloth はローカルAPI経由でモデルを読み込み、提供します。 セットアップ後、Hermes 経由で送られるすべてのプロンプトは、リモートのプロバイダーではなくローカルモデルに対して実行されます。 Hermes をセットアップする🦥 Unsloth でオープンモデルを使う {% hint style="info" %} このチュートリアルでは、Hermes をインストールし、以下を使うように設定します `unsloth/Qwen3.6-27B-GGUF` Unsloth から提供されるモデルです。別のモデルを使いたいですか？ Unsloth で別のモデルを読み込み、設定を更新すれば、他のモデルに切り替えられます。 {% endhint %} ### :caduceus: Hermes Agent をセットアップする **前提条件。** インストーラーはこれらを確認し、不足があれば停止します。まず、まだマシンに入っていないものをインストールしてください： * **OS** Linux、macOS、または WSL 経由の Windows。 * **uv** Python パッケージマネージャー。次のコマンドでインストールします `curl -LsSf https://astral.sh/uv/install.sh | sh`. * **Python 3.11 以上** インストーラーが不足している場合は、これをプロビジョニングできます `uv` 。 * **Git** Hermes リポジトリをクローンするため。 * **Node.js** Hermes のブラウザツール用に 18 以上。 * **ripgrep** (`rg`）を使って高速にファイル検索します。 * **ffmpeg** TTS／音声メッセージ用。 #### **1. インストーラーを実行する** をターミナルで： ```bash curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash ``` インストーラーは次のことを行います： 1. OS を検出します。 2. 上記の前提条件をすべて確認し、それぞれに ✓ または ✗ を表示します。 3. Hermes を次へクローンします `~/.hermes/hermes-agent/` （GitHub の SSH キーが設定されていれば SSH 経由、それ以外は HTTPS）。 4. Python 3.11 の仮想環境を次に作成します `~/.hermes/hermes-agent/venv/`. 5. Hermes とすべての Python 依存関係をインストールします。 6. ブラウザツール用の Node.js 依存関係をインストールします。 7. Playwright の Chromium エンジンをインストールします。 **このステップでは `sudo`** の入力を求めます。これにより Playwright が共有ライブラリをインストールできます。Hermes 自体に root 権限は不要です。
#### **2. シェルを再読み込みする** して、 `hermes` コマンドが `PATH`: {% code title="bash" %} ```bash source ~/.bashrc ``` {% endcode %} {% code title="zsh" %} ```bash source ~/.zshrc ``` {% endcode %} #### **3. インストールを確認する：** ```bash hermes --version ``` コマンドが解決されれば、Hermes はインストールされています。すべては次の場所にあります `~/.hermes/`: | パス | 内容 | | --------------------------------------- | ---------------------------- | | `~/.hermes/config.yaml` | メイン設定（モデル、プロバイダー、ツール、TTS など） | | `~/.hermes/.env` | API キーおよびその他の秘密情報 | | `~/.hermes/hermes-agent/` | Hermes のソース + virtualenv | | `~/.hermes/cron/`, `sessions/`, `logs/` | ランタイムデータ | | `~/.hermes/skills/` | インストール済みスキル（Skills Hub から同期） | {% hint style="info" %} 完全なインストール参照： [hermes-agent.nousresearch.com/docs/getting-started/installation](https://hermes-agent.nousresearch.com/docs/getting-started/installation)。インストーラーが前提条件の不足を報告した場合は、それをインストールしてから、ワンライナーを再実行してください。インストーラーは冪等です。 {% endhint %} ### Unslothのインストール ### ⚡ クイックスタート Hermes をインストールした後、Hermes がローカルモデルの推論を提供・実行できるようにするため、Unsloth Studio をインストールする必要があります。 1. **Unsloth Studio をインストールまたは更新します。** 以前のバージョンでは外部APIが公開されません。「インストール」を参照してください。 2. **Unslothを起動します。** 起動時のポートは通常 `8000` または `8888`です。ターミナル出力とブラウザのURL（`http://localhost:PORT`). 3. **モデルを読み込みます。** クリック **New Chat**、モデル（GGUF）を選択または検索し、読み込みが完了するまで待ちます。 4. **APIキーを作成します。** Unslothで、左下の **Unsloth** アバターをクリックし、→ **設定** → **API** →キー名を入力→ **作成**。次の `sk-unsloth-…` 表示される値。Unsloth では一度しか表示されません。 5. **クライアントをUnslothに向けます。** 使用します `http://localhost:PORT` をベースURLとして、さらに `sk-unsloth-…` キーを認証に使います。以下のツールの手順に進んでください。 ### 🔑 APIキーの作成 1. サイドバーを開き、左下の **Unsloth** アバターをクリックします。 2. 次へ進みます **設定** → **API**. 3. わかりやすい名前を入力します（例： `claude-code-macbook`). 4. *（任意）* 有効期限を設定します。 5. クリック **作成**. 6. **キーをすぐにコピーします。** Unslothにはハッシュのみが保存され、再度表示することはできません。
すべてのキーは次のプレフィックスで始まります `sk-unsloth-` 。同じページからいつでもキーを無効化できます。無効化されたキーで行ったリクエストは次のエラーで失敗します `401 Unauthorized`. {% hint style="warning" %} APIキーはパスワードのように扱ってください。キーとUnslothインスタンスへのネットワークアクセスを持つ人は、読み込まれたモデルにリクエストを送信できます。 {% endhint %} ### 🦥 Hermes を Unsloth API と統合する Hermes は各チャットターンを設定済みの推論プロバイダーに送信し、 **OpenAI互換の** エンドポイントに接続します。インストール中に、または後でセットアップウィザードでプロバイダーを設定できます。 **1. セットアップウィザードを開く：** ```bash hermes setup ``` 次を選択 **Model & Provider** を「What would you like to do?」メニューから選ぶと推論エンドポイントのみを設定でき、 **Full Setup** を選ぶと、すべて（TTS、ツール、メッセージングゲートウェイ、エージェント設定）を順に設定できます。
**2. カスタム OpenAI互換エンドポイントを選択する** Hermes が推論プロバイダーを尋ねたときに。
**3. プロンプトに入力する** Hermes の案内に従って： | プロンプト | 値 | | --------------------------- | -------------------------------------------------------- | | **API ベースURL** | `http://localhost:8888/v1` *（あなたの Unsloth のポート + `/v1`)* | | **API キー** | あなたの `sk-unsloth-…` キー | | **検出されたモデル：… このモデルを使いますか？** | `Y` *（Hermes は `GET /v1/models`)* | | **トークン単位のコンテキスト長** | *（自動検出する場合は空欄のまま）* | | **表示名** | 好きなもので構いません。例： `unsloth-api` | Hermes はエンドポイントを `/v1/models` で確認し、続行する前に検出されたモデルを確認します。
**4. 残りのプロンプトは既定値を受け入れる** （TTS、ツール、メッセージングゲートウェイ、エージェント設定）これらは後で再設定できます。Hermes はすべてを次に書き込みます `~/.hermes/config.yaml` および `~/.hermes/.env`.
**5. Hermes を起動する：** ```bash hermes ``` 起動バナーにはステータスバーに Unsloth のモデル名が表示されます（例： `unsloth/Qwen3.6-27B-GGUF`）、そしてプロンプトは入力を受け付ける準備が整います。
{% hint style="info" %} 後でモデルだけ再設定したい場合は、次を実行します `hermes setup model`。設定ファイルを直接編集するには、 `hermes config edit` を開きます `~/.hermes/config.yaml` あなたの `$EDITOR`. {% endhint %} ### オプション：Unsloth サーバーを調整する `unsloth run` はローカルAPIサーバーを起動し、アプリが接続するためのモデルを読み込みます。起動時のサーバーの動作もカスタマイズできます。 ```bash # Hermes を提供する（--disable-tools でエージェント自身のツールをそのまま通します） unsloth run \ --model unsloth/gemma-4-26B-A4B-it-GGUF \ --disable-tools \ --reasoning off \ -p 8888 ``` {% hint style="warning" %} 使用します `--disable-tools` Hermes（または独自のツールを持つ外部エージェント）を動かすときに。既定では Unsloth Studio はサーバー側の独自ツールを実行しますが、これはエージェントのツール呼び出しを吸い込んでしまうため、Hermes は応答するもののツールは実行されません。 `--disable-tools` をパススルーに切り替えるので、Hermes 自身のツールが使われます。 {% endhint %} 使用します `--reasoning off` で思考をオフにするか、 `--reasoning on` で、推論をサポートするモデルの思考をオンにします。 ```bash # ローカルネットワークで API を公開 unsloth run \ --model unsloth/gemma-4-26B-A4B-it-GGUF \ -H 0.0.0.0 \ -p 8888 ``` これによりサーバーは `0.0.0.0:8888`で起動し、ローカルネットワーク上の他のデバイスが接続できるようになります。 `-p` はサーバーが実行されるポートを変更します。スマートフォン、ノートパソコン、またはネットワーク上の他のデバイスから API サーバーに接続したい場合は、次を付けて起動します `-H 0.0.0.0`. 一部のアプリは、個々のリクエストに対する生成設定を上書きすることがあります。より高度なランタイム設定については、メインの [API調整](https://unsloth.ai/docs/basics/api#unsloth-run-command) セクションを参照してください。 --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://unsloth.ai/docs/jp/tong-he/hermes-agent.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.