> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/zh/ji-cheng/openclaw.md).

# 如何使用 OpenClaw 运行本地 AI 模型

使用 OpenClaw 运行本地 LLM 的指南。

本指南将展示如何在本地使用开源 LLM 与 **通过将 OpenClaw 连接到 Unsloth**。OpenClaw 是一个 **开源 AI 代理** 界面，它连接到模型以在你的项目中运行任务。OpenClaw 可以通过连接 **Unsloth 兼容 OpenAI 的 API**来与任何本地模型协作：包括 DeepSeek、Qwen、Gemma 等。

OpenClaw 充当客户端，而 Unsloth 通过一个 **本地 API**加载并提供模型服务。设置完成后，OpenClaw 将通过 Unsloth 针对你的本地模型运行，让你可以直接将其用作 **AI 代理。** 在本教程中，我们将使用 [Qwen3.6](/docs/zh/mo-xing/qwen3.6.md).

<a href="/docs/zh/ji-cheng/openclaw.md#connecting-to-openclaw" class="button primary" data-icon="lobster">连接到 OpenClaw</a><a href="/docs/zh/ji-cheng/openclaw.md#quickstart" class="button primary">快速开始</a>

{% hint style="info" %}
在本教程中，我们将使用 `unsloth/Qwen3.6-27B-GGUF` 在 Unsloth 中并通过 OpenClaw 访问它。想用不同的模型？只需在 Unsloth 中加载另一个模型并更新配置即可。
{% endhint %}

### 安装 OpenClaw

{% tabs %}
{% tab title="macOS、Linux、WSL" %}
使用官方安装程序安装 OpenClaw：

`curl -fsSL https://openclaw.ai/install.sh | bash`

这会设置 OpenClaw，并引导你完成初始设置。
{% endtab %}

{% tab title="Windows（PowerShell）" %}
使用官方安装程序安装 OpenClaw：

`iwr -useb https://openclaw.ai/install.ps1 | iex`

这会设置 OpenClaw，并引导你完成初始设置。
{% endtab %}
{% endtabs %}

### ⚡ 快速开始

安装 OpenClaw 后，我们需要安装 [Unsloth Desktop](/docs/zh/desktop.md) 以便让 OpenClaw 提供并运行本地模型的推理。

{% stepper %}
{% step %}

#### 下载 Unsloth

最简单的入门方式是安装 Unsloth Desktop 应用。它支持 [MacOS](/docs/zh/kuai-su-kai-shi/install/mac.md)、Linux、 [Windows](/docs/zh/kuai-su-kai-shi/install/windows-installation.md), [NVIDIA](/docs/zh/kuai-su-kai-shi/install/pip-install.md), [AMD](/docs/zh/kuai-su-kai-shi/install/amd.md)、Intel 以及 CPU 配置。

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">下载 Unsloth</a>

* <i class="fa-apple">:apple:</i> [下载 macOS 版本](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [下载 Windows 版本](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [下载 Linux 版本](https://unsloth.ai/download/linux)

或者，如果你更喜欢手动安装：

**MacOS、Linux、WSL：**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows PowerShell：**

```bash
irm https://unsloth.ai/install.ps1 | iex
```

{% endstep %}

{% step %}

#### 安装

1. 打开 Unsloth 安装程序（`.dmg`, `.exe` 文件）
2. 在 Mac 上将 Unsloth 拖到 Applications，或在 Windows 上完成设置。
3. 启动应用并等待安装完成
   {% endstep %}

{% step %}

#### 选择模型

打开顶部的“选择模型”下拉菜单或“Model hub”标签页，选择适合你设备的模型和量化方式，然后下载。完成后即可开始聊天——无需额外设置。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FNCEVgKLJI0goPqjgcg9B%2Fmodel%20hub%20models.png?alt=media&amp;token=533b5e3c-a901-4b33-963e-4a703cc9d5a6" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}

{% step %}

### Unsloth 现在已就绪

要开始聊天，输入消息并按 Enter。

**连接 OpenClaw。** 运行 `unsloth start openclaw` 在独立的受管环境中使用已加载的 Unsloth 模型启动 OpenClaw。你的普通 OpenClaw 配置不会被更改。

<figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FpAGvwjGD0iVMZKBoyu7m%2Fgreeennn.png?alt=media&amp;token=d17a5528-8375-444c-9aff-f9e9f7903bcd" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}

### ⚙️ 使用以下命令启动 OpenClaw： `unsloth start`

OpenClaw 可以连接到已在 Unsloth Studio 中运行的模型，或者在 Unsloth 未运行时自动启动一个模型。

连接到正在运行的 Unsloth 实例

一旦模型在 Unsloth Studio 中加载完成，运行：

```bash
unsloth start openclaw
```

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FQm2hy6E5WvSzvmhQX0VL%2Fimage.png?alt=media&amp;token=e87ad9ac-8c43-4d20-9276-10eed404bd89" alt="" width="563"><figcaption></figcaption></figure></div>

Unsloth 会在独立的受管环境中，以配置好的 Unsloth provider、模型和上下文长度，在本地 TUI 模式下启动 OpenClaw。你的普通 OpenClaw 设置不会被更改。

一旦 OpenClaw 打开，给它一个任务，例如：

```
检查这个仓库，并用一句话总结它：https://github.com/unslothai/unsloth
```

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fz93FYVhDJZKkBw3bY5X9%2Fimage.png?alt=media&amp;token=f79db6e8-59ea-4ac7-8008-fe6e6124d977" alt="" width="563"><figcaption></figcaption></figure></div>

#### 自动启动模型

如果 Unsloth 还没有在运行，请传入一个模型 ID：

要直接使用模型启动 OpenClaw，请运行：

```bash
unsloth start openclaw \
    --model unsloth/Qwen3.8-27B-GGUF-GGUF:UD-Q4_K_XL
    --temp 1.0 \
    --top-p 0.95 \
    --top-k 20 \
    --min-p 0.0 \
    --reasoning-effort medium
```

Unsloth 会自动选择要使用的正确参数，但你仍然可以更改它。

Unsloth 会启动模型、启动 OpenClaw，并在你退出时停止临时服务器。\
\
若要保留你的 OpenClaw 状态并稍后返回同一会话，请添加 `--persist` 并选择一个会话密钥：

```bash
unsloth start openclaw \
  --model unsloth/Qwen3.6-27B-GGUF \
  --persist \
  agent --local \
  --session-key my-session \
  --message "Inspect this repository"
```

稍后使用相同的会话密钥继续：

```bash
unsloth start openclaw \
  --model unsloth/Qwen3.6-27B-GGUF \
  --persist \
  agent --local \
  --session-key my-session \
  --message "Continue"
```

查看完整的 [unsloth start](/docs/zh/ji-cheng/unsloth-start.md) 命名会话、模型加载、远程 Unsloth 服务器和高级选项参考。

本指南其余部分将介绍手动 OpenClaw provider 设置。

### 手动 OpenClaw provider 设置

### 🔑 创建 API 密钥

密钥可从以下位置创建 **Unsloth → 设置 → API 密钥**.

1. 打开侧边栏，点击左下角你的 **Unsloth** 头像。
2. 前往 **设置** → **API 密钥**.
3. 输入一个友好的名称（例如 `claude-code-macbook`).
4. *（可选）* 设置过期时间。
5. 点击 **创建**.
6. **立即复制密钥。** Unsloth 只存储哈希值，你将无法再次查看它。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FrWnqY5PgvZdbWK8pmlD5%2Fimage.png?alt=media&amp;token=3507e7d7-b552-447f-b503-2418802b8f6e" alt="" width="375"><figcaption></figcaption></figure></div>

所有密钥都以 `sk-unsloth-` 前缀开头。你可以随时在同一页面撤销密钥。使用已撤销密钥发出的请求将失败，并返回 `401 未授权`.

### 连接到 OpenClaw

OpenClaw 从 `~/.openclaw/openclaw.json`读取配置。添加（或合并）一个 `models` 块，其中包含一个 `unsloth` 指向 Unsloth 的 Anthropic Messages API 的 provider。

<div data-with-frame="true"><figure><img src="https://2657992854-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fs5g7Epfb2KjiQQf4MJf7%2Fopenclaw_unsloth_chat.png?alt=media&amp;token=c4de5f80-2a99-4527-bde0-c4e05e086f79" alt="" width="375"><figcaption></figcaption></figure></div>

{% code title="\~/.openclaw/openclaw\.json" %}

```json
{
  "models": {
    "mode": "merge",
    "providers": {
      "unsloth": {
        "baseUrl": "http://localhost:8888",
        "apiKey": "sk-unsloth-xxxxxxxxxxxx",
        "api": "anthropic-messages",
        "models": [
          {
            "id": "unsloth/Qwen3.6-27B-GGUF",
            "name": "unsloth/Qwen3.6-27B-GGUF"
          }
        ],
        "authHeader": true
      }
    }
  }
}
```

{% endcode %}

**说明：**

* `baseUrl` 是不带路径的 Unsloth 源地址。OpenClaw 通过 Anthropic Messages API 与 Unsloth 通信，而 Anthropic SDK 会自行附加 `/v1/messages` ，所以不要在这里添加 `/v1` （末尾带有 `/v1` 会将请求发送到 `/v1/v1/messages`).
* `api: "anthropic-messages"` 会告诉 OpenClaw 与 Unsloth 的 `/v1/messages` 端点通信。
* `authHeader: true` 会将你的密钥作为 `Authorization: Bearer …`.
* 将每个模型的 `id` 和 `name` 设置为你在 Unsloth 中加载模型时选择的名称。
* 如果你在远程机器上运行 Unsloth，请将 `localhost:8888` 替换为那台机器的地址（例如 `http://10.0.0.42:8888`).

### 可选：配置模型行为

OpenClaw 通过在 Unsloth 中运行的模型进行连接。启动服务器时可以配置运行时设置。

```bash
# 配置默认生成行为（--disable-tools 会透传 OpenClaw 自己的工具）
unsloth run \
  --model unsloth/gemma-4-26B-A4B-it-GGUF \
  --disable-tools \
  --reasoning off \
  --temp 0.6
```

{% hint style="warning" %}
使用 `--disable-tools` 在驱动 OpenClaw（或任何外部编码代理）时使用。默认情况下，Unsloth Studio 会运行其自己的服务器端工具，这会吞掉代理的工具调用，因此 OpenClaw 会给出回答但不会编辑文件。 `--disable-tools` 切换为透传，因此会使用 OpenClaw 自己的工具。
{% endhint %}

使用 `--reasoning off` 用于关闭思考，或使用 `--reasoning on` 为支持推理的模型开启它。

```bash
# 允许来自其他设备的连接
unsloth run \
  --model unsloth/gemma-4-26B-A4B-it-GGUF \
  -H 0.0.0.0 \
  -p 8888
```

这将在 `0.0.0.0:8888`上启动服务器，允许本地网络上的其他设备连接。

如需更高级的运行时配置，请参阅主 [API 调优](https://unsloth.ai/docs/basics/api#unsloth-run-command) 部分。


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/zh/ji-cheng/openclaw.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
