Unsloth 会从一个单独受管理的主目录启动 Hermes，其中已预先配置好 Unsloth 提供方、模型和上下文设置。你现有的 Hermes 设置不会更改。
这个受管理的主目录默认是临时的。若要保留你的会话和状态，请添加 `--persist` 从首次启动开始：
```bash
unsloth start hermes --persist
```
若之后要返回到你最近的会话，请运行：
```bash
unsloth start hermes --persist --continue
```
若要重新打开某个特定会话，请使用 `--resume ` 来替代。
查看完整的 [unsloth start](/docs/zh/ji-cheng/unsloth-start.md) 用于模型选择、远程连接和高级选项的参考。
如果你更愿意自行管理 Hermes 提供方，下方的设置向导仍然可用。
### 🔑 创建 API 密钥
1. 打开侧边栏，点击左下角的 **Unsloth** 头像。
2. 前往 **设置** → **API**.
3. 输入一个友好的名称（例如 `hermes-agent-macbook`).
4. *（可选）* 设置过期时间。
5. 点击 **创建**.
6. **立即复制该密钥。** Unsloth 只保存哈希值，你将无法再次查看它。
所有密钥都以 `sk-unsloth-` 前缀开头。你可以随时在同一页面撤销密钥。使用已撤销密钥发出的请求将失败，并返回 `401 未授权`.
### 🦥 将 Hermes 与 Unsloth API 集成
Hermes 会将每轮聊天发送到已配置的推理提供方，并连接到 **兼容 OpenAI 的** 端点。你可以在安装期间或之后的设置向导中配置该提供方。
**1. 打开设置向导：**
{% columns %}
{% column %}
```bash
hermes setup
```
选择 **模型与提供方** 在“您想做什么？”菜单中，只配置推理端点，或者 **完整设置** 来逐步完成所有内容（TTS、工具、消息网关、代理设置）。
{% endcolumn %}
{% column %}
{% endcolumn %}
{% endcolumns %}
**2. 当 Hermes 提示你选择推理提供方时，选择自定义的 OpenAI 兼容端点** 。
**3. 按照 Hermes 的提示填写** ：
| 提示 | 值 |
| -------------------- | ---------------------------------------------------- |
| **API 基础 URL** | `http://localhost:8888/v1` *（你的 Unsloth 端口 + `/v1`)* |
| **API 密钥** | 你的 `sk-unsloth-…` 键 |
| **检测到的模型：… 使用此模型吗？** | `Y` *（Hermes 会通过 `GET /v1/models`)* |
| **上下文长度（以 token 计）** | *（留空以自动检测）* |
| **显示名称** | 任意你喜欢的名称，例如 `unsloth-api` |
Hermes 会根据 `/v1/models` 验证端点，并在继续前确认检测到的模型。
**4. 对其余提示接受默认值** （TTS、工具、消息网关、代理设置）你之后都可以重新配置。Hermes 会将所有内容写入 `~/.hermes/config.yaml` 和 `~/.hermes/.env`.
**5. 启动 Hermes：**
```bash
hermes
```
启动横幅会在状态栏中显示你的 Unsloth 模型名称（例如 `unsloth/Qwen3.6-27B-GGUF`），然后提示符就可输入了。
{% hint style="info" %}
若之后只想重新配置模型，请运行 `hermes setup model`。若要直接编辑配置文件， `hermes config edit` 会打开 `~/.hermes/config.yaml` 在你的 `$EDITOR`.
{% endhint %}
### 可选：调整 Unsloth 服务器
`unsloth run` 会启动本地 API 服务器并加载一个模型供你的应用连接。你也可以在启动时自定义服务器行为。
```bash
# 提供 Hermes 服务（--disable-tools 会透传代理自身的工具）
unsloth run \\
--model unsloth/gemma-4-26B-A4B-it-GGUF \\
--disable-tools \\
--reasoning off \\
-p 8888
```
{% hint style="warning" %}
使用 `--disable-tools` 在驱动 Hermes（或任何带有自身工具的外部代理）时。默认情况下，Unsloth Studio 会运行其自身的服务器端工具，这会吞掉代理的工具调用，因此 Hermes 会回答，但不会执行其工具。 `--disable-tools` 会切换为透传模式，因此会使用 Hermes 自身的工具。
{% endhint %}
使用 `--reasoning off` 用于关闭思考，或者使用 `--reasoning on` 为支持推理的模型开启它。
```bash
# 在本地网络上暴露 API
unsloth run \\
--model unsloth/gemma-4-26B-A4B-it-GGUF \\
-H 0.0.0.0 \\
-p 8888
```
这会在 `0.0.0.0:8888`上启动服务器，从而允许本地网络中的其他设备连接。 `-p` 会更改服务器运行的端口。如果你希望手机、笔记本或网络中的其他设备连接到 API 服务器，请使用以下方式启动它 `-H 0.0.0.0`.
某些应用仍可能针对单个请求覆盖生成设置。有关更高级的运行时配置，请参阅主 [API 调优](https://unsloth.ai/docs/basics/api#unsloth-run-command) 部分。
---
# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.
## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.
Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:
```
GET https://unsloth.ai/docs/zh/ji-cheng/hermes-agent.md?ask=&goal=
```
`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.
Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.