> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/zh/ji-cheng/openclaw.md).

# 如何使用 OpenClaw 运行本地 AI 模型

本指南将使你能够在本地使用开源 LLM，配合 **通过将 OpenClaw 连接到 Unsloth**。OpenClaw 是一个 **开源 AI 代理** 界面，可连接到模型以在整个项目中运行任务。

OpenClaw 可以通过连接 **Unsloth 的 OpenAI 兼容 API**与任何本地模型协同工作：包括 DeepSeek、Qwen、Gemma 等。OpenClaw 充当客户端，而 Unsloth 通过 **本地 API**.

完成设置后，OpenClaw 将通过 Unsloth 连接到你的本地模型，让你可以直接将其用作 **AI 代理。**

<a href="/pages/f1eb04d9bdae8f6dbb3d9ed5d64e060dac5a68ff#connecting-to-openclaw" class="button primary" data-icon="lobster">连接到 OpenClaw</a><a href="/pages/f1eb04d9bdae8f6dbb3d9ed5d64e060dac5a68ff#quickstart" class="button primary">快速入门</a>

{% hint style="info" %}
&#x20;在本教程中，我们将使用 `unsloth/Qwen3.6-27B-GGUF` 在 Unsloth 中，并通过 OpenClaw 访问它。想用其他模型？只需在 Unsloth 中加载另一个模型并更新配置即可。
{% endhint %}

### 安装 OpenClaw

{% tabs %}
{% tab title="macOS、Linux、WSL" %}
使用官方安装程序安装 OpenClaw：

`curl -fsSL https://openclaw.ai/install.sh | bash`

这会设置 OpenClaw，并引导你完成初始设置。
{% endtab %}

{% tab title="Windows（PowerShell）" %}
使用官方安装程序安装 OpenClaw：

`iwr -useb https://openclaw.ai/install.ps1 | iex`

这会设置 OpenClaw，并引导你完成初始设置。
{% endtab %}
{% endtabs %}

{% hint style="info" %}
API 访问包含在 **Unsloth（Beta 版）**&#x4E2D;。请确保你使用的是最新版本，较早的版本不会暴露外部 API。请参阅“安装”以进行安装或更新。
{% endhint %}

### 安装 Unsloth

### ⚡ 快速入门

安装 OpenClaw 后，我们还需要安装 Unsloth Studio，以便 OpenClaw 能够提供并推理本地模型。

1. **安装或更新** [**Unsloth Studio**](/docs/zh/xin/studio.md)**.** 较早的版本不会暴露外部 API。请参阅“安装”。
2. **启动 Unsloth。** 注意它启动时使用的端口通常是 `8000` 或 `8888`。你会在终端输出和浏览器 URL（`http://localhost:PORT`).
3. **加载模型。** 点击 **新建聊天**，选择或搜索一个模型（GGUF），并等待其加载完成。
4. **创建 API 密钥。** 在 Unsloth 中，点击左下角的 **Unsloth** 头像 → **设置** → **API 密钥** → 输入密钥名称 → **创建**。复制出现的 `sk-unsloth-…` 值。Unsloth 只会显示一次。
5. **将你的客户端指向 Unsloth。** 使用 `http://localhost:PORT` 作为基础 URL，并使用你的 `sk-unsloth-…` 密钥进行身份验证。请跳到下面对应工具的步骤。

### 🔑 创建 API 密钥

密钥通过 **Unsloth → 设置 → API 密钥**.

1. 创建。打开侧边栏，点击左下角的 **Unsloth** 头像。
2. 前往 **设置** → **API 密钥**.
3. 输入一个友好的名称（例如 `claude-code-macbook`).
4. *（可选）* 设置过期时间。
5. 点击 **创建**.
6. **立即复制密钥。** Unsloth 只会保存一个哈希值，你将无法再次查看它。

<div data-with-frame="true"><figure><img src="/files/3432517ab3e4dadf17eb7ea5f319b43cc5902dd2" alt="" width="375"><figcaption></figcaption></figure></div>

所有密钥都以 `sk-unsloth-` 前缀开头。你可以随时在同一页面撤销某个密钥。使用已撤销密钥发出的请求将会失败，返回 `401 未经授权`.

{% hint style="warning" %}
请像对待密码一样对待你的 API 密钥。任何拥有该密钥并能访问你的 Unsloth 实例网络的人，都可以向你加载的模型发送请求。
{% endhint %}

### 连接到 OpenClaw

OpenClaw 从 `~/.openclaw/openclaw.json`读取其配置。添加（或合并）一个 `models` 块，并设置一个 `unsloth` provider，指向 Unsloth 的 Anthropic Messages API。

<div data-with-frame="true"><figure><img src="/files/07ec4a323098a7644fbd73ef89c4ef9df3c3f5de" alt="" width="375"><figcaption></figcaption></figure></div>

{% code title="\~/.openclaw/openclaw\.json" %}

```json
{
  "models": {
    "mode": "merge",
    "providers": {
      "unsloth": {
        "baseUrl": "http://localhost:8888",
        "apiKey": "sk-unsloth-xxxxxxxxxxxx",
        "api": "anthropic-messages",
        "models": [
          {
            "id": "unsloth/Qwen3.6-27B-GGUF",
            "name": "unsloth/Qwen3.6-27B-GGUF"
          }
        ],
        "authHeader": true
      }
    }
  }
}
```

{% endcode %}

**说明：**

* `baseUrl` 是没有路径的 Studio 源地址。OpenClaw 通过 Anthropic Messages API 与 Studio 通信，而 Anthropic SDK 会自行附加 `/v1/messages` ，所以不要在这里添加 `/v1` （末尾的 `/v1` 会将请求发送到 `/v1/v1/messages`).
* `api: "anthropic-messages"` 告诉 OpenClaw 与 Unsloth 的 `/v1/messages` 端点通信。
* `authHeader: true` 将你的密钥作为 `Authorization: Bearer …`.
* 发送。 `将每个模型的` id `和` name
* 设置为你在 Unsloth 中加载模型时选择的名称。 `localhost:8888` 替换为该机器的地址（例如 `http://10.0.0.42:8888`).

### 可选：配置模型行为

OpenClaw 通过在 Unsloth 中运行的模型进行连接。运行时设置可以在启动服务器时配置。

```bash
# 配置默认生成行为（--disable-tools 会透传 OpenClaw 自带的工具）
unsloth run \
  --model unsloth/gemma-4-26B-A4B-it-GGUF \
  --disable-tools \
  --reasoning off \
  --temp 0.6
```

{% hint style="warning" %}
使用 `--disable-tools` 在驱动 OpenClaw（或任何外部编码代理）时使用。默认情况下，Unsloth Studio 会运行其自己的服务端工具，这会吞掉代理的工具调用，因此 OpenClaw 会给出回答，但从不编辑文件。 `--disable-tools` 切换为透传模式，因此会使用 OpenClaw 自己的工具。
{% endhint %}

使用 `--reasoning off` 用于关闭思考，或 `--reasoning on` 用于对支持推理的模型开启思考。

```bash
# 允许来自其他设备的连接
unsloth run \
  --model unsloth/gemma-4-26B-A4B-it-GGUF \
  -H 0.0.0.0 \
  -p 8888
```

这会在 `0.0.0.0:8888`上启动服务器，允许本地网络中的其他设备连接。

如需更高级的运行时配置，请参阅主 [API 调优](https://unsloth.ai/docs/basics/api#unsloth-run-command) 部分。


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://unsloth.ai/docs/zh/ji-cheng/openclaw.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
