> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/zh/ji-chu/api.md).

# 如何将 Unsloth 作为 API 端点使用

你可以运行 **本地 LLM** 配合如下工具： [Claude Code](/docs/zh/ji-chu/claude-code.md) 和 [Codex](/docs/zh/ji-chu/codex.md) ，只需将这些工具连接到 Unsloth 的 **兼容 OpenAI 的 API 端点**。这让你可以本地运行如下模型： [Qwen](/docs/zh/mo-xing/qwen3.6.md) 和 [Gemma](/docs/zh/mo-xing/gemma-4.md) ，用于智能代理式编程。Unsloth 还具备一些有益功能，例如自愈式 **工具调用**, **代码执行**，以及 **网页搜索**.

Unsloth 让你很容易部署一个快速的 API 推理端点，提供：

* [**自愈式工具调用**](/docs/zh/xin/studio/chat.md#auto-healing-tool-calling)，可将损坏或格式错误的工具调用减少 50%
* [**代码执行**](/docs/zh/xin/studio/chat.md#code-execution) 支持，可进行 Bash 和 Python 执行，从而获得更准确的代码输出。
* **高级** [**网页搜索**](/docs/zh/xin/studio/chat.md#advanced-web-search) 会访问并实际读取网页，以收集深入信息。
* [**自动推理** 设置](/docs/zh/xin/studio/chat.md#auto-parameter-tuning) 适用于 GGUF 模型（temp、top-k 等）

{% columns %}
{% column %}
在 Unsloth 中加载的模型（包括 GGUF）会以 **已认证 API** 的形式通过 `llama-server` 暴露。出于安全考虑，会生成一个较长的 API 密钥，就像 OpenAI 提供的一样。

你的 **本地模型** 随后可直接在你偏好的 AI Agent、SDK 或聊天客户端中使用。Unsloth 在同一个端口上提供两种接口格式。两者都支持流式输出、工具调用（OpenAI `工具`  / Anthropic `工具`），以及视觉输入：
{% endcolumn %}

{% column %}

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FgCthbL3uUmrNgxFBePK5%2Fimage.png?alt=media&amp;token=060dbc41-6fd5-496d-ba00-0ba13fde86ff" alt=""><figcaption></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

无论你的模型是通过 Unsloth 的推理运行，还是通过你自己的远程兼容 OpenAI 的端点运行，你都可以让它使用 Unsloth 的完整工具集，包括网页搜索、代码执行、深度研究等。

* **兼容 Anthropic 的 `/v1/messages`**  ，适用于 Claude Code、OpenClaw、Anthropic SDK，以及任何期望 Messages API 的客户端。
* **兼容 OpenAI 的 `/v1/chat/completions`** 和 **`/v1/responses`** ，适用于 OpenAI SDK、OpenCode、Cursor、Continue、Cline、Open WebUI、SillyTavern，以及任何兼容 OpenAI 的工具。

### ⚡ 快速开始

{% stepper %}
{% step %}

#### 下载 Unsloth

最简单的开始方式是安装 [Unsloth Desktop](/docs/zh/desktop.md) 应用。它支持 [MacOS](/docs/zh/kai-shi-shi-yong/install/mac.md)、Linux、 [Windows](/docs/zh/kai-shi-shi-yong/install/windows-installation.md), [NVIDIA](/docs/zh/kai-shi-shi-yong/install/pip-install.md), [AMD](/docs/zh/kai-shi-shi-yong/install/amd.md)、Intel 和 CPU 配置。

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">下载 Unsloth</a>

* <i class="fa-apple">:apple:</i> [下载 macOS 版](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [下载 Windows 版](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [下载 Linux 版](https://unsloth.ai/download/linux)

或者，如果你更喜欢手动安装：

**MacOS、Linux、WSL：**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows PowerShell：**

```bash
irm https://unsloth.ai/install.ps1 | iex
```

{% endstep %}

{% step %}

#### 安装

1. 打开 Unsloth 安装程序（`.dmg`, `.exe` 文件）
2. 在 Mac 上将 Unsloth 拖到 Applications，或在 Windows 上完成安装。
3. 启动应用并等待安装完成
   {% endstep %}

{% step %}

#### 选择模型

打开顶部的“选择模型”下拉菜单或“Model hub”标签页，选择适合你设备的模型和量化方案，然后下载。完成后即可开始聊天——无需额外设置。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FNCEVgKLJI0goPqjgcg9B%2Fmodel%20hub%20models.png?alt=media&amp;token=533b5e3c-a901-4b33-963e-4a703cc9d5a6" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### Unsloth 现在已准备就绪

要开始聊天，请输入消息并按 Enter。

* **创建 API 密钥。** 点击左下角的 **Unsloth** 头像 → **设置** → **API** → 输入密钥名称 → **创建**。复制出现的 `sk-unsloth-…` 值。Unsloth 只会显示一次。
* **将你的客户端指向 Unsloth。** 使用 `http://localhost:PORT` 作为 base URL，并使用你的 `sk-unsloth-…` 密钥进行认证。请跳到下方对应工具的教程。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FpAGvwjGD0iVMZKBoyu7m%2Fgreeennn.png?alt=media&amp;token=d17a5528-8375-444c-9aff-f9e9f7903bcd" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}

### 🔑 创建 API 密钥

1. 打开侧边栏，点击左下角的 **Unsloth** 头像。
2. 前往 **设置** → **API** （地球 :globe\_with\_meridians: 图标）。
3. 输入一个友好的名称（例如 `claude-code-macbook`）。设置过期时间（可选）
4. 点击 **创建**.
5. **复制密钥。** Unsloth 只存储哈希值，你将无法再次查看它。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FR7fhygHCl5RwG4P1MSoS%2Fimage.png?alt=media&amp;token=e2781a00-7fe5-4831-9fdb-a57234843b34" alt="" width="563"><figcaption></figcaption></figure></div>

所有密钥都以 `sk-unsloth-` 前缀开头。你可以随时在同一页面撤销某个密钥。使用已撤销密钥的请求将失败，并返回 `401 未授权`.

{% hint style="warning" %}
请将你的 API 密钥视为密码。任何拥有该密钥并能访问你的 Unsloth 实例网络的人，都可以向你加载的模型发送请求。
{% endhint %}

### ⏳ 模型加载

{% stepper %}
{% step %}

#### 选择模型

在使用 API 之前，请先从 Chat 页面左上角的 **选择模型** 下拉菜单中加载一个模型。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FuZqd6tcZ5LgMSh4ZND5x%2Fexport-1778505117710-24fps.gif?alt=media&amp;token=9defec95-5404-4654-9c33-67be967c9820" alt=""><figcaption></figcaption></figure>

在本指南中，我们将使用：

`unsloth/gemma-4-26B-A4B-it-GGUF` 以及推荐的 `UD-Q4_K_XL` 量化。
{% endstep %}

{% step %}

#### 测试模型

在使用客户端之前，先发送一条简短消息：

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F2Ivilke0aJX8AHWDwSmr%2Fimage.png?alt=media&amp;token=9f9380b9-f963-4861-a17b-fd0fe16684d4" alt="" width="563"><figcaption></figcaption></figure></div>

{% hint style="info" %}
这可以确认模型已正确加载并准备响应。
{% endhint %}
{% endstep %}

{% step %}

#### **Unsloth API 密钥**

在 Unsloth 中，打开 **设置 → API** 即可查看或创建你的 API 密钥。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAZwaRmBVPpXA2SFhMGW9%2Fexport-1778506924396-30fps.gif?alt=media&amp;token=96f3f1a7-fce4-4508-b1b0-e8b6294dc423" alt=""><figcaption></figcaption></figure>

请将你的 API 密钥视为密码，避免在截图或仓库中暴露它。
{% endstep %}
{% endstepper %}

### <i class="fa-terminal">:terminal:</i> Unsloth 运行命令

1. **安装或更新 Unsloth Studio。** 早期版本不暴露外部 API。请参见安装。
2. **加载 GGUF 模型。** 使用运行命令加载 GGUF 模型。这也会在默认端口上加载 UI。端点 URL 和 API Key 会打印到控制台，供你直接在所选客户端中使用。

   ```bash
   unsloth run --model unsloth/qwen3.8-27B-GGUF-GGUF:UD-Q4_K_XL
       --temp 1.0 \
       --top-p 0.95 \
       --top-k 20 \
       --min-p 0.0 \
       --chat-template-kwargs '{"reasoning_effort":"medium"}'
   ```

按需调整设置。

#### 通过 CLI 加载模型

你可以使用 `unsloth` CLI 工具加载模型，并自动为你创建 API 密钥。模型加载完成后，端点 URL 和 API key 会打印到控制台。将它们复制到你选择的客户端中，就可以开始了。

#### 开始之前

请确保你使用的是较新的 Unsloth Studio 版本，因为早期版本不暴露外部 API。参见 [安装](/docs/zh/xin/studio/install.md).

#### 快捷方式

打开终端并加载一个 GGUF 模型：

```bash
unsloth run --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL
```

这会在默认端口启动服务器、加载 UI，并打印你的端点 URL 和 API key。

#### 模型名称的工作方式

你可以通过几种不同方式指定模型。选择你觉得最简单的一种：

```bash
# 合并：仓库和量化变体写在一个字符串中（推荐——最简短）
unsloth run --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL

# 分开：仓库和变体作为两个参数（较旧的写法，但仍然有效）
unsloth run --model unsloth/gemma-4-26B-A4B-it-GGUF --gguf-variant UD-Q4_K_XL

# 使用 -hf / --hf-repo（与 llama.cpp 的写法一致，如果你来自那里会很方便）
unsloth run -hf unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL
```

### 调整运行参数（可选）

基础加载时你不需要这些，但 `unsloth run` 支持许多 llama-server 运行时参数，用于自定义性能、内存使用、上下文长度、生成行为、网络和工具访问。

额外参数会直接传递给底层推理服务器，你的值会覆盖 Unsloth 的默认值。如果没有设置 settings/sampling 参数，Unsloth 会自动为模型选择最佳/推荐设置，包括上下文长度、temperature 等。

#### 控制推理行为

某些具备推理能力的模型支持额外参数，用于控制思考和推理行为。

```bash
# 禁用推理 / 思考输出
unsloth run \\
  --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL \\
  --reasoning on  \\
  --reasoning-effort medium
```

推理强度和参数取决于模型所支持的内容。

#### 调整生成行为

采样设置决定模型在生成时的创造性、聚焦程度或确定性。

```bash
# 降低随机性并提高可复现性
unsloth run \\
  --model unsloth/Qwen3-1.7B-GGUF \\
  --temp 0.6 \\
  --seed 42
```

较低的 temperature 通常会产生更稳定的输出，而 top-p、top-k、min-p 和 repeat penalty 设置则进一步控制 token 选择和重复。

```bash
# 调整 token 选择和重复行为
unsloth run \\
  --model unsloth/Qwen3-1.7B-GGUF \\
  --top-p 0.95 \
  --top-k 20 \
  --min-p 0.05 \\
  --repeat-penalty 1.1
```

#### 增加上下文长度和 CPU 线程数

当你处理大型项目、长对话或需要更多内存的 agent 工作流时，这很有用。

```bash
# 使用更大的上下文窗口和更多 CPU 线程
unsloth run \\
  --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \\
  -c 131072 \\
  --threads 32
```

#### 在本地网络上暴露 API

默认情况下，Unsloth 仅在你的机器本地运行。你可以通过绑定到以下地址，将 API 暴露给网络中的其他设备： `0.0.0.0`.

```bash
# 允许局域网设备连接
unsloth run \\
  --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \\
  -H 0.0.0.0 \\
  -p 8888
```

#### 启用或禁用服务器端工具

控制像网页搜索和代码执行这样的工具是否由推理服务器暴露。

```bash
# 明确启用工具
unsloth run \\
  --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \\
  --enable-tools
```

```bash
# 明确禁用工具
unsloth run \\
  --model unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_XL \\
  --disable-tools
```

Unsloth 支持大多数 llama-server 运行时参数，包括上下文大小、GPU 层数、线程、采样、网络和工具配置。

请参见 [llama-server](https://github.com/ggml-org/llama.cpp/tree/master/tools/server) 文档以获取受支持运行时参数的完整列表。

#### **服务器端工具策略**

`unsloth run` 控制服务器端工具（网页搜索、代码执行等）是否由推理服务器暴露。默认值基于绑定地址：

* **`127.0.0.1` （localhost）** — 工具 **开启** ，默认开启。只有你的机器可以访问该服务器。
* **`0.0.0.0` 或任何非回环地址** — 工具 **关闭** ，默认关闭。在网络暴露的服务器上泄露 API 密钥，意味着主机上可被任意代码执行。

**参数：**

* `--enable-tools` / `--disable-tools` — 强制开启或关闭。开启 `0.0.0.0`, `--enable-tools` 会显示一个 y/N 安全提示。
* `--yes` / `-y` — 跳过提示（用于自动化）。

已解析的策略是进程级的硬性覆盖——单个请求不能通过 `enable_tools=true` 在请求体中绕过它。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FeIJIvZl7HvOCjtVPm3en%2Funsloth_run_model.png?alt=media&amp;token=84c45c38-78a9-4b55-b9b7-08bad9dc6238" alt=""><figcaption></figcaption></figure></div>

### 🌐 **端点**

Unsloth 会在其启动的任意端口上暴露这些端点（通常是 `http://localhost:8000` 或 `http://localhost:8888`):

| 端点                          | 兼容对象                        | 可从以下工具使用                                                     |
| --------------------------- | --------------------------- | ------------------------------------------------------------ |
| `POST /v1/messages`         | Anthropic Messages API      | Claude Code、Anthropic SDK、OpenClaw，以及任何支持 Anthropic 协议的工具    |
| `POST /v1/chat/completions` | OpenAI Chat Completions API | OpenAI SDK、opencode、Cursor、Continue、Cline、Open WebUI、curl 等。 |
| `GET /v1/models`            | OpenAI models 列表            | 列出当前在 Unsloth 中加载的模型                                         |

使用一个 `Authorization: Bearer sk-unsloth-…` 头部进行每次请求的认证。

{% hint style="info" %}
你不需要为这两种格式运行不同的服务器。Unsloth 会在同一个端口上同时处理它们。
{% endhint %}

### 🖇️ 连接你的客户端

Unsloth 让你可以通过大多数框架运行本地 LLM，包括 [Claude Code](/docs/zh/ji-chu/claude-code.md), [Codex](/docs/zh/ji-chu/codex.md), [OpenClaw](/docs/zh/ji-cheng/openclaw.md), [OpenCode](/docs/zh/ji-cheng/opencode.md) 等更多工具。点击下方的具体工具查看指南：

{% columns %}
{% column width="50%" %}
{% content-ref url="/pages/1a707991086189a8e5cd8374f3ce1b81915bc159" %}
[Claude Code](/docs/zh/ji-chu/claude-code.md)
{% endcontent-ref %}

{% content-ref url="/pages/b71ddea7924324c058a771e5e831c3cb6fc75b18" %}
[OpenAI Codex](/docs/zh/ji-chu/codex.md)
{% endcontent-ref %}

{% content-ref url="/pages/4636d45e7e20328c61211d43c235257fdd7ebc1d" %}
[Curl & HTTP](/docs/zh/ji-cheng/jiang-curl-he-http-lian-jie-dao-unsloth.md)
{% endcontent-ref %}
{% endcolumn %}

{% column width="50%" %}
{% content-ref url="/pages/f1eb04d9bdae8f6dbb3d9ed5d64e060dac5a68ff" %}
[OpenClaw](/docs/zh/ji-cheng/openclaw.md)
{% endcontent-ref %}

{% content-ref url="/pages/124bfded8d8412a9fbc1614fa7467985c0af22da" %}
[OpenCode](/docs/zh/ji-cheng/opencode.md)
{% endcontent-ref %}

{% content-ref url="/pages/010e01be868ae39c13b48ffdf9774e645c6a347f" %}
[Python SDK](/docs/zh/ji-cheng/jiang-python-sdk-lian-jie-dao-unsloth.md)
{% endcontent-ref %}
{% endcolumn %}
{% endcolumns %}

要从另一台机器访问此端点，请使用 `unsloth studio --secure`启动。Unsloth 会保持绑定到 localhost，并通过一个免费的 Cloudflare HTTPS URL 对外发布；请使用该 URL 代替 `http://127.0.0.1:8888` 作为你客户端的 base URL。请注意，服务器发送事件无法通过 Cloudflare quick tunnel 保持连接，因此当通过该隧道调用时，请设置 `stream: false` 。

### 🧰 工具调用

两个端点都支持其原生格式的函数/工具调用，另外还提供了一个针对 Unsloth 内置工具的 Unsloth 专用简写。

**OpenAI 风格的工具：** 发送 `工具` 和 `tool_choice` 到 `/v1/chat/completions` ，就像你使用 OpenAI 时那样。Claude Code（通过 `/v1/messages`） 、opencode、Cursor、Continue 和 Cline 都能开箱即用。

**Anthropic 风格的工具：** 发送 `工具` （使用 `input_schema`）以及 `tool_choice` 到 `/v1/messages` ，就像你使用 Claude 时那样。

Unsloth 服务端工具：Unsloth 可以在 *服务器端* 执行 Python、网页搜索和 bash，并将结果以 `tool_result` 事件流式返回。通过向任一端点添加以下额外字段即可启用：

```json
{
  "messages": [{"role": "user", "content": "What is 123 * 456? Use Python."}],
  "stream": true,
  "enable_tools": true,
  "enabled_tools": ["python", "web_search","terminal"],
  "session_id": "my-session"
}
```

模型会在下一轮看到每个工具的输出。关于更深入的覆盖（schema、流式事件、链式调用），请参见。

{% hint style="info" %}
如果你使用的是 Anthropic `/v1/messages` 端点， `tool_choice` 可以无缝映射：Anthropic `auto` → OpenAI `auto`，Anthropic `any` → OpenAI `required`，Anthropic `{type: "tool", name: "x"}` → OpenAI `{type: "function", function: {name: "x"}}`，Anthropic `none` → OpenAI `none`.
{% endhint %}

### 📈 API 监控

通过此端点的每一次调用都会实时列在 Studio 中，分布在两个位置：

一旦有 API key 流量到达，API 监控侧边栏就会自动在角落打开。它会汇总当前活动模型、实时请求、错误和平均延迟。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FqbcbkrU9tnkg5VCnDzCz%2Fimage.png?alt=media&amp;token=733b2b37-4e57-48c6-b826-9f356d648344" alt=""><figcaption></figcaption></figure></div>

点击“展开为完整监控”或前往 设置 > API Monitor 进入完整 **API** 页面，其中会显示模型加载、提示词、响应、token 数、首 token 耗时、吞吐量和错误信息。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FfjIh57Mb278c072g27nk%2Fimage.png?alt=media&amp;token=3a236c7c-1f00-430b-92f3-42799346aa3c" alt="" width="563"><figcaption></figcaption></figure></div>

### ❔ 故障排查

**`401 未授权`** ：  要么 `Authorization` 头缺失，要么密钥错误。密钥必须以 `Authorization: Bearer sk-unsloth-…`的形式传入。如果你丢失了密钥，请从 **设置 → API。** Unsloth 在创建后不会显示旧密钥。

**`与模型服务器的连接丢失`** ：Unsloth 无法连接到底层的 llama.cpp 服务器。通常是模型已完成加载但崩溃了，或者在 Unsloth 中关闭了模型标签页。从 **新聊天** ，然后重试。

**Claude Code 显示的是默认的 Anthropic 模型，而不是我的本地模型** ：检查这三个环境变量都已在 **同一个** 运行 `claude`:

```bash
echo $ANTHROPIC_BASE_URL
echo $ANTHROPIC_AUTH_TOKEN
echo $ANTHROPIC_MODEL
```

然后运行 `/model` 在 Claude Code 中确认。在 Windows PowerShell 中使用 `$env:ANTHROPIC_BASE_URL` 等等。

**`流式：true` 返回单个 JSON 数据块，而不是 SSE** ：确保你命中了正确的路径（`/v1/messages` 或 `/v1/chat/completions`）并且你的 HTTP 客户端确实是以流的方式消费响应，而不是把它缓冲起来。

**我找不到要添加到 opencode（或 OpenClaw / 任何其他客户端）中的模型名称** ：直接询问 Unsloth。 `GET /v1/models` 返回你需要填入客户端“模型 ID”字段的确切模型 ID：

```bash
curl http://localhost:8888/v1/models \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx"
```

你会收到如下形式的 JSON 负载 `{"data": [{"id": "gemma-4-26B-A4B-it-GGUF", ...}]}`。复制出现的 `标识符` 值，这就是 opencode 的字符串 **模型 ID** 字段（左列）以及 OpenClaw 的 `models[].id` 所期望的。右侧的显示名称则是你希望用户看到的内容。

**工具调用未执行** ：模型需要支持工具调用，才能使用客户端工具（`工具` / `tool_choice`）。对于 Unsloth 的内置工具，记得设置 `enable_tools: true` **和** 在 `enabled_tools` （例如 `["python", "web_search"]`).

* **我的客户端报告连接错误。** 打开 API 监视器。如果该调用没有对应的行，说明它从未到达 Unsloth，请将你的客户端基础 URL 与 **基础 URL** 该页面顶部显示的内容。
* **回复被截断了。** 检查 **使用的上下文** 在 API 监视器中的该请求上。接近 100%，或停止原因是 `长度`，表示是上下文窗口已满，而不是模型失败。


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/zh/ji-chu/api.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.