vscode如何在 VS Code 中使用 Unsloth 微调 LLM

通过 Unsloth 和 Google Colab 在 Visual Studio Code 中直接微调模型的指南。

您现在可以直接在 Visual Studio Code (VS Code) 中微调大语言模型(LLM),可在本地或通过 Google Colab 的扩展进行。在本指南中,您将学习如何将任意 Unsloth 微调笔记本 在 VS Code 中连接到 Colab 运行时,这样您就可以在本地或免费的 Colab GPU 上训练。

1

先决条件

开始之前我们需要具备:

  • 已安装 VS Codearrow-up-right。Git(用于克隆笔记本仓库)应为默认已安装。

  • 一个 Google 帐户 (用于与 Colab 身份验证)

  • 推荐: Jupyter 扩展在 VS Code 中(大多数设置已经安装)

2

在 VS Code 中安装 Colab 扩展

  1. 打开 扩展 在 VS Code 中(Ctrl+Shift+X / Cmd+Shift+X)

  2. 搜索 “Colab” 并安装 Google Colab 扩展

3

打开一个 Unsloth 笔记本

  1. 克隆笔记本仓库:

    git clone https://github.com/unslothai/notebooks
    cd notebooks
  2. 打开您想要的笔记本。Unsloth 支持大多数模型,包括 嵌入, 语音合成(TTS)。例如,我们将使用 Qwen3-4B RL: nb/Qwen3_(4B)-GRPO.ipynb

4

选择内核并选择 Colab

在笔记本工具栏中,单击 选择内核,然后选择 Colab

5

添加新的 Colab 服务器

选择 Colab后,您会看到带有服务器选项的下拉菜单。

  1. 单击 + 添加新的 Colab 服务器

  2. 首次使用时,可能会弹出浏览器窗口进行 Google 身份验证

    • 登录,授予访问权限,然后返回 VS Code

6

选择 GPU 并为服务器命名

  1. 硬件加速器 设置为 GPU

  2. 选择 GPU 类型(例如 T4,如果可用)

  3. 为服务器命名(随您喜欢)

circle-info

注意:GPU 可用性取决于您的 Colab 计划和当前容量。如果看不到 GPU 选项,请参见下方故障排除。

7

选择 Python 内核

连接到 Colab 服务器后,选择该运行时出现的 Python 内核(通常是 Python 3 内核)。

8

运行笔记本

  • 单击 运行全部 在笔记本工具栏中(或自上而下运行单元格)

  • 观察安装依赖项的设置单元格,然后开始 Unsloth 工作流

故障排除

Colab 服务器断开后,笔记本无法在新服务器上运行

发生了什么: 如果在 Colab 服务器断开时笔记本仍保持打开状态,VS Code 在重新连接后可能会陷入错误的内核/运行时状态。相关 GitHub 问题arrow-up-right.

修复: 完全关闭笔记本选项卡并重新打开该笔记本。

无法选择 GPU(仅显示 CPU)

可能的原因和修复:

  • Colab 免费层容量: GPU 可能暂时不可用 → 稍后再试。

  • 实际上未连接到 Colab 运行时: 重新检查 选择内核 → Colab 并确保 Colab 服务器处于活动状态。

  • 帐户/区域限制或达到配额: 您可能需要等待或使用不同的 Google 帐户/计划。

一切正常,但重新连接后软件包“消失”了

Colab 运行时是 临时的。当服务器重启时,通常需要重新运行设置/安装单元格(通常是笔记本中的前几个单元格)。

最后更新于

这有帮助吗?