search
RedditDiscordGitHub

vscodeWie man LLMs in VS Code mit Unsloth & Colab-GPUs finetunt

Anleitung zum Finetuning von Modellen direkt in Visual Studio Code über Unsloth und Google Colab.

Sie können LLMs jetzt direkt aus Visual Studio Code (VS Code) feinabstimmen, lokal oder mithilfe der Google-Colab-Erweiterung. In diesem Leitfaden erfahren Sie, wie Sie das Open-Source-Training Repo: Unslotharrow-up-right, verwenden, um beliebige Feinabstimmungs-Notebook in VS Code mit einer Colab-Laufzeit zu verbinden, sodass Sie auf Ihrer lokalen GPU oder der kostenlosen Colab-GPU trainieren können. Sie können auch unser Video-Tutorial hier.

1

hashtag
VS Code- und Colab-Tutorial:

Zum Beginnen benötigen wir:

  • Installiert VS Codearrow-up-right. Git (zum Klonen des Notebook-Repos) sollte standardmäßig installiert sein.

  • Ein Google-Konto (zur Authentifizierung bei Colab)

  • Empfohlen: Jupyter Erweiterung (die meisten VS Code-Setups haben sie bereits)

2

hashtag
Installieren Sie die Colab-Erweiterung in VS Code

  1. Öffnen Erweiterungen in VS Code (Strg+Shift+X / Cmd+Shift+X)

  2. Suchen Sie nach „Colab“ und installieren Sie die Google Colab Erweiterung

3

hashtag
Öffnen Sie ein Unsloth-Notebook

  1. Klonen Sie das Unsloth- Notebooks-Repositoryarrow-up-right:

git clone https://github.com/unslothai/notebooks
cd notebooks/nb

  1. Öffnen Sie Ihr gewünschtes Notebook. Unsloth unterstützt die meisten Modelle, einschließlich Embedding, TTS. Beispielsweise verwenden wir Qwen3-4B RL: nb/Qwen3_(4B)-GRPO.ipynb

4

hashtag
Wählen Sie einen Kernel und wählen Sie Colab

Klicken Sie in der Notebook-Symbolleiste auf Kernel auswählen, und wählen Sie dann Colab

5

hashtag
Fügen Sie einen neuen Colab-Server hinzu

Nachdem Sie Colabgewählt haben, sehen Sie ein Dropdown mit Serveroptionen.

  1. Klicken Sie + Neuen Colab-Server hinzufügen

  2. Beim ersten Mal kann ein Browserfenster zur Google-Authentifizierung geöffnet werden

    • Melden Sie sich an, gewähren Sie den Zugriff und kehren Sie dann zu VS Code zurück

6

hashtag
Wählen Sie GPU und benennen Sie den Server

  1. Stellen Sie Hardwarebeschleuniger auf GPU

  2. Wählen Sie einen GPU-Typ (zum Beispiel T4, falls verfügbar)

  3. Geben Sie dem Server einen Namen (beliebig)

circle-info

Hinweis: Die Verfügbarkeit von GPUs hängt von Ihrem Colab-Plan und der aktuellen Kapazität ab. Wenn Sie keine GPU-Optionen sehen, lesen Sie die Fehlerbehebung weiter unten.

7

hashtag
Wählen Sie den Python-Kernel

Sobald die Verbindung zum Colab-Server hergestellt ist, wählen Sie den Python Kernel aus, der für diese Laufzeit angezeigt wird (in der Regel ein Python-3-Kernel).

8

hashtag
Führen Sie das Notebook aus

  • Klicken Sie Alle ausführen in der Notebook-Symbolleiste (oder führen Sie die Zellen von oben nach unten aus)

  • Beobachten Sie, wie die Setup-Zellen Abhängigkeiten installieren und dann den Unsloth-Workflow starten

  • Sie können unsere speziellen Feinabstimmungs- oder Reinforcement-Learning- Leitfäden für weitere Informationen darüber ansehen, wie Sie genau mit Unsloth beginnen.

hashtag
Video-Tutorial

hashtag
Fehlerbehebung

hashtag
Nachdem der Colab-Server die Verbindung getrennt hat, wird das Notebook auf einem neuen Server nicht ausgeführt

Was passiert: Wenn das Notebook geöffnet bleibt, während der Colab-Server die Verbindung trennt, kann VS Code nach dem Wiederverbinden in einem schlechten Kernel-/Laufzeitzustand steckenbleiben. Verwandtes GitHub-Issuearrow-up-right.

Lösung: Schließen Sie die Notebook-Registerkarte vollständig und öffnen Sie das Notebook erneut.

hashtag
Sie können keine GPU auswählen (es wird nur die CPU angezeigt)

Mögliche Ursachen und Lösungen:

  • Colab-Free-Tier-Kapazität: GPUs können vorübergehend nicht verfügbar sein → versuchen Sie es später erneut.

  • Tatsächlich nicht mit einer Colab-Laufzeit verbunden: überprüfen Sie erneut Kernel auswählen → Colab und stellen Sie sicher, dass ein Colab-Server aktiv ist.

  • Konto-/Regionsbeschränkungen oder erreichte Limits: möglicherweise müssen Sie warten oder ein anderes Google-Konto / einen anderen Plan verwenden.

hashtag
Alles hat funktioniert, aber Pakete sind nach dem Wiederverbinden „verschwunden“

Colab-Laufzeiten sind ephemer. Wenn ein Server neu startet, müssen Sie normalerweise die Setup-/Installationszellen erneut ausführen (oft die ersten Zellen im Notebook).

Zuletzt aktualisiert

War das hilfreich?