在 VS Code 中使用 Unsloth 和 Colab GPU 微调 LLM 的方法

通过 Unsloth 和 Google Colab 在 Visual Studio Code 中直接微调模型的指南。

您现在可以直接从 Visual Studio Code (VS Code) 对大型语言模型（LLM）进行微调，本地或通过使用 Google Colab 的扩展。在本指南中，您将学习如何使用开源训练存储库：Unsloth，将任何微调笔记本在 VS Code 中连接到 Colab 运行时，以便您可以在本地或免费的 Colab GPU 上进行训练。您也可以观看我们的视频教程此处.

VS Code 与 Colab 教程：

开始前我们需要：

已安装 VS Code。Git（用于克隆笔记本存储库）通常默认已安装。
一个 Google 帐号 （用于与 Colab 进行身份验证）
推荐： Jupyter 扩展（大多数 VS Code 配置通常已有）

在 VS Code 中安装 Colab 扩展

打开扩展在 VS Code 中（Ctrl+Shift+X / Cmd+Shift+X)
搜索 “Colab” 并安装 Google Colab 扩展

打开 Unsloth 笔记本

克隆 Unsloth 笔记本存储库:

git clone https://github.com/unslothai/notebooks
cd notebooks/nb

打开您想要的笔记本。Unsloth 支持大多数模型，包括嵌入, 语音合成 (TTS)。例如，我们将使用 Qwen3-4B RL： nb/Qwen3_(4B)-GRPO.ipynb

选择内核并选择 Colab

在笔记本工具栏中，点击 选择内核，然后选择 Colab

添加新的 Colab 服务器

选择 Colab后，您会看到带有服务器选项的下拉菜单。

点击 + 添加新的 Colab 服务器
第一次可能会打开浏览器窗口进行 Google 身份验证
- 登录，授予访问权限，然后返回 VS Code

选择 GPU 并为服务器命名

将 硬件加速器 设置为 GPU
选择 GPU 类型（例如 T4，如果可用）
为服务器命名（随您喜欢）

注意：GPU 的可用性取决于您的 Colab 计划和当前容量。如果您看不到 GPU 选项，请参见下面的故障排除。

选择 Python 内核

连接到 Colab 服务器后，选择该运行时显示的 Python 内核（通常是 Python 3 内核）。

运行笔记本

点击 全部运行 在笔记本工具栏中（或自上而下运行单元格）
观察设置单元格安装依赖项，然后启动 Unsloth 工作流
您可以查看我们专门的微调或强化学习指南以获取有关如何开始使用 Unsloth 的更多信息。

视频教程

故障排除

在 Colab 服务器断开后，笔记本无法在新服务器上运行

发生了什么： 如果在 Colab 服务器断开时笔记本仍保持打开，VS Code 在重新连接后可能会陷入不良的内核/运行时状态。相关 GitHub 问题.

修复： 完全关闭笔记本选项卡并重新打开笔记本。

无法选择 GPU（仅显示 CPU）

可能的原因和解决方法：

Colab 免费层容量： GPU 可能暂时不可用 → 稍后再试。
实际上未连接到 Colab 运行时： 重新检查 选择内核 → Colab 并确保 Colab 服务器处于活动状态。
帐户/区域限制或达到配额： 您可能需要等待或使用不同的 Google 帐号 / 计划。

一切正常，但在重新连接后软件包“消失”了

Colab 运行时是 短暂的。当服务器重启时，通常需要重新运行设置/安装单元格（通常是笔记本的前几个单元格）。

最后更新于11天前

这有帮助吗？

hashtagVS Code 与 Colab 教程：

hashtag在 VS Code 中安装 Colab 扩展

hashtag打开 Unsloth 笔记本

hashtag选择内核并选择 Colab

hashtag添加新的 Colab 服务器

hashtag选择 GPU 并为服务器命名

hashtag选择 Python 内核

hashtag运行笔记本

hashtag视频教程

hashtag故障排除

hashtag在 Colab 服务器断开后，笔记本无法在新服务器上运行

hashtag无法选择 GPU（仅显示 CPU）

hashtag一切正常，但在重新连接后软件包“消失”了