Introducing Unsloth Desktop: the first local app to run & train models
✨Read more
Ctrlk
RedditDiscordGitHubNewsletter
For the complete documentation index, see llms.txt. This page is also available as Markdown.

如何使用 OpenCode 运行本地 AI 模型

了解如何在本地设备上使用 OpenCode 连接开源 LLM。

本指南将带你完成连接 OpenCode 改为 Unsloth 来运行开源 LLM 完全在本地运行。 OpenCode 是一个 开源 AI 编程代理 它使用连接的模型读取、修改并执行整个项目中的代码。这适用于任何 本地模型 通过 Unsloth 的 兼容 OpenAI 的 API，包括：DeepSeek、Qwen、Gemma 等更多模型。

OpenCode 作为客户端，而 Unsloth 通过本地 API 加载并提供模型服务。设置完成后，OpenCode 会连接到 Unsloth，你可以在其中选择已加载的模型并将其用作一个 编程代理.

本指南涵盖两种设置方式：

  • OpenCode Desktop： 手动将 Unsloth Studio 添加为自定义的 OpenAI 兼容提供方。

  • OpenCode CLI： 使用以下命令启动它 unsloth start opencode 并自动连接到你的本地模型。

OpenCode 设置快速入门

在本教程中，我们将使用 unsloth/Qwen3.6-27B-GGUF 在 Unsloth 中加载，并在 OpenCode 内直接访问。想用其他模型？只需在 Unsloth 中加载其他模型即可切换。

安装 OpenCode Desktop

第 1 步：下载适用于 Mac 的 OpenCode 安装程序

打开 opencode.ai/download 在你喜欢的浏览器中。向下滚动到 OpenCode Desktop（测试版）， 然后点击 下载 按钮，位于与你的 Mac 架构（Apple Silicon 或 Intel）对应的 macOS 镜像名称旁边。

第 2 步：安装 OpenCode

找到并双击 OpenCode Desktop.dmg 安装文件，位于你的下载文件夹中。

安装窗口将打开。使用鼠标将 OpenCode 应用图标拖到 “应用程序” 图标上，如图所示。

第 3 步：启动 OpenCode

找到并双击 OpenCode 位于 “应用程序” 文件夹下的图标。

“ OpenCode 桌面应用将打开，现在已准备好执行你的下一步操作。

第 1 步：下载适用于 Windows 的 OpenCode 安装程序

打开 opencode.ai/download 在浏览器中。滚动到 OpenCode Desktop（测试版），然后点击 下载 按钮，位于 Windows (x64) 安装程序旁边。

第 2 步：安装 OpenCode

找到 OpenCode Desktop Installer.exe 位于你的 Downloads 文件夹中，双击它。然后你可以按照安装窗口中的提示完成安装。

第 3 步：启动 OpenCode

打开 Windows 开始菜单并搜索 OpenCode。 点击 OpenCode 应用图标启动它。OpenCode 桌面应用将打开，现在已准备好执行你的下一步操作

第 1 步：下载适用于 Linux 的 OpenCode 安装程序

前往 opencode.ai/download 使用你喜欢的网页浏览器。找到 OpenCode Desktop（测试版） 部分，然后为你的系统选择 Linux 下载选项。

第 2 步：安装 OpenCode

打开你的 Downloads 文件夹并找到 OpenCode 你刚刚下载的安装程序。

如果下载的是 AppImage，右键单击该文件，打开 属性，并启用允许该文件作为程序运行的选项。然后双击 AppImage 以启动 OpenCode.

或者，如果你更喜欢使用终端，请运行：

如果你下载的是一个 .deb 文件，请使用以下命令安装：

如果你下载的是一个 .rpm 文件，请使用以下命令安装：

第 3 步：启动 OpenCode

打开你的 Linux 应用启动器并搜索 OpenCode.

点击 OpenCode 应用图标启动它。OpenCode 桌面应用将打开，现在已准备好执行你的下一步操作。

⚡ 快速开始

安装 OpenCode 后，我们还需要安装 Unsloth Desktop 以使 OpenCode 能够提供服务并运行本地模型推理。

1

下载 Unsloth

最简单的入门方式是安装 Unsloth 桌面应用。它支持 MacOS，Linux， Windows, NVIDIA, AMD，Intel 和 CPU 配置。

下载 Unsloth

或者，如果你更喜欢手动安装：

MacOS、Linux、WSL：

Windows PowerShell：

2

安装

  1. 打开 Unsloth 安装程序（.dmg, .exe 文件）

  2. 将 Unsloth 拖到 Mac 的“应用程序”中，或完成 Windows 的安装。

  3. 启动应用并等待安装完成

3

选择模型

打开顶部的“选择模型”下拉菜单或“模型中心”标签页，选择一个适合你设备的模型和量化，然后下载它。完成后即可开始聊天——无需任何设置。

4

Unsloth 现在已准备就绪

要开始聊天，请输入消息并按 Enter。

连接 OpenCode。 运行 unsloth start opencode。它会生成一个 API 密钥、写入配置，并使用你已加载的模型启动 OpenCode。

🔑 创建 API 密钥

  1. 打开侧边栏，点击你的 Unsloth 左下角头像。

  2. 前往 设置 → API.

  3. 输入一个易记的名称（例如 claude-code-macbook).

  4. （可选） 设置过期时间。

  5. 点击 创建.

  6. 立即复制密钥。 Unsloth 只会存储哈希值，你将无法再次查看它。

所有密钥都以 sk-unsloth- 前缀开头。你可以随时在同一页面吊销密钥。使用已吊销密钥发出的请求将失败，并返回 401 未授权.

🖇️ 将 Unsloth 连接到 OpenCode Desktop

Opencode 支持任何 OpenAI 兼容提供方，因此你可以将 Unsloth 接入为 自定义 provider 接入。该设置是在 opencode 的 连接 provider 对话框中一次性完成的流程。

1. 打开 provider 选择器。 在 opencode 中，输入 /model （或者点击输入框底部的模型选择器）。

然后点击 连接 provider 在“选择模型”对话框右上角的

2. 选择“自定义”。 在 provider 列表中，滚动到 其他 并选择 自定义.

3. 填写自定义 provider 表单：

字段
值

Provider ID

unsloth-studio （小写，可使用连字符）

显示名称

Unsloth Studio

基础 URL

http://localhost:8888/v1/ （替换 8888 使用你的 Unsloth 端口；保留末尾的 /v1/)

API key

你的 sk-unsloth-… 密钥

在 模型 部分，为你想要公开的每个模型添加一行。左侧字段是 Unsloth 提供的模型 ID；右侧字段是 opencode 将显示的内容：

模型 ID（左侧）
显示名称（右侧）

unsloth/Qwen3.6-27B-GGUF （Unsloth 中显示的模型准确名称）

unsloth/Qwen3.6-27B-GGUF （在 opencode 中显示）

保持 Headers 保持为空，除非你通过需要自定义请求头的认证层来代理 Unsloth。

4. 点击 Submit。 你应该会看到一条 “Unsloth Studio 已连接。现在可以使用 Unsloth 模型了” 提示。

添加提供方后重启 opencode。 新提供方只有在重启后才会变得可选。

5. 选择你的 Unsloth 模型。 一旦 opencode 重新启动，输入 /model，搜索 unsloth，然后选择 Unsloth Studio 组下的模型。它会在你的下一条消息中生效。

Unsloth 同时支持 OpenAI 和 Anthropic 的 Python SDK。

⚙️ OpenCode CLI

OpenCode CLI 可以连接到已在 Unsloth Studio 中运行的模型，或者在 Unsloth 未运行时自动启动一个模型。

如果 Unsloth Studio 已在运行

在 Unsloth Studio 中加载模型后，打开你的项目文件夹并运行：

使用此命令会用当前在 Unsloth 中加载的模型启动 OpenCode，而不会更改你现有的 OpenCode 设置。

自动启动模型

如果 Unsloth 尚未运行，你可以用一条命令启动临时服务器并加载模型：

要直接用某个模型启动 OpenCode，请运行：

Unsloth 会自动选择正确的参数，但你仍然可以修改。

一旦 OpenCode 打开后，给它一个任务，例如：

它可以检查项目、创建文件、编辑代码，并使用本地模型运行命令。

在这个示例中，模型创建了一个双关卡的平台跳跃游戏。让我们打开看看效果如何。

继续你的工作

OpenCode 会自动保留你的会话历史，因此你不需要 --persist。要从上次中断的地方继续，即使 Unsloth 已不再运行，也请使用：

若要改为打开特定会话，请使用 --session <session-id>.

查看完整的 unsloth start 模型加载、远程 Unsloth 服务器和高级选项的参考。

可选：配置服务器访问

unsloth run 启动本地 API 服务器并加载一个模型供 OpenCode 连接。你也可以在启动时自定义服务器的行为。

使用 --disable-tools 在驱动 OpenCode（或任何外部编程代理）时使用。默认情况下，Unsloth Studio 运行自己的服务器端工具，这会吞掉代理的工具调用，因此 OpenCode 会回复但不会编辑文件。 --disable-tools 切换为直通模式，因此会使用 OpenCode 自己的工具。

使用 -p 用于更改服务器运行的端口。

这将把服务器启动在 0.0.0.0:8888，从而允许本地网络上的其他设备连接。

有关更高级的运行时配置，请参阅主 API 调优 部分。

上一页Run models in VS Code
下一页Hermes Agent

最后更新于

这有帮助吗？