如何使用 Unsloth 和 Colab GPU 在 VS Code 中微调 LLM
通过 Unsloth 和 Google Colab 直接在 Visual Studio Code 中微调模型的指南。
最后更新于
这有帮助吗?
通过 Unsloth 和 Google Colab 直接在 Visual Studio Code 中微调模型的指南。
您现在可以直接从 Visual Studio Code (VS Code) 对大型语言模型(LLM)进行微调,本地或通过使用 Google Colab 的扩展。在本指南中,您将学习如何使用开源训练 存储库:Unsloth,将任何 微调笔记本 在 VS Code 中连接到 Colab 运行时,以便您可以在本地或免费的 Colab GPU 上进行训练。您也可以观看我们的视频教程 此处.
开始前我们需要:
已安装 VS Code。Git(用于克隆笔记本存储库)通常默认已安装。
一个 Google 帐号 (用于与 Colab 进行身份验证)
推荐: Jupyter 扩展(大多数 VS Code 配置通常已有)
克隆 Unsloth 笔记本存储库:
git clone https://github.com/unslothai/notebooks
cd notebooks/nb
打开您想要的笔记本。Unsloth 支持大多数模型,包括 嵌入, 语音合成 (TTS)。例如,我们将使用 Qwen3-4B RL: nb/Qwen3_(4B)-GRPO.ipynb

发生了什么: 如果在 Colab 服务器断开时笔记本仍保持打开,VS Code 在重新连接后可能会陷入不良的内核/运行时状态。相关 GitHub 问题.
修复: 完全关闭笔记本选项卡并重新打开笔记本。
可能的原因和解决方法:
Colab 免费层容量: GPU 可能暂时不可用 → 稍后再试。
实际上未连接到 Colab 运行时: 重新检查 选择内核 → Colab 并确保 Colab 服务器处于活动状态。
帐户/区域限制或达到配额: 您可能需要等待或使用不同的 Google 帐号 / 计划。
Colab 运行时是 短暂的。当服务器重启时,通常需要重新运行设置/安装单元格(通常是笔记本的前几个单元格)。
最后更新于
这有帮助吗?
这有帮助吗?

