circle-check
Introducing Unsloth Studio: a new web UI for local AI
🦥chevron-right
search
RedditDiscordGitHub

vscodeWie man LLMs in VS Code mit Unsloth & Colab-GPUs fein-tuned

Anleitung zum direkten Fine-Tuning von Modellen in Visual Studio Code über Unsloth und Google Colab.

Sie können LLMs jetzt direkt aus Visual Studio Code (VS Code) feinabstimmen, lokal oder mithilfe der Google-Colab-Erweiterung. In diesem Leitfaden erfahren Sie, wie Sie das Open-Source-Training Repo: Unslotharrow-up-right, verwenden, um beliebige Feinabstimmungs-Notebook in VS Code mit einer Colab-Laufzeit zu verbinden, sodass Sie auf Ihrer lokalen GPU oder der kostenlosen Colab-GPU trainieren können. Sie können auch unser Video-Tutorial hier.

1

hashtag
VS Code- und Colab-Tutorial:

Zum Beginnen benötigen wir:

  • Installiert VS Codearrow-up-right. Git (zum Klonen des Notebook-Repos) sollte standardmäßig installiert sein.

  • Ein Google-Konto (zur Authentifizierung bei Colab)

  • Empfohlen: Jupyter Erweiterung (die meisten VS Code-Setups haben sie bereits)

2

hashtag
Installieren Sie die Colab-Erweiterung in VS Code

  1. Öffnen Erweiterungen in VS Code (Strg+Shift+X / Cmd+Shift+X)

  2. Suchen Sie nach „Colab“ und installieren Sie die Google Colab Erweiterung

3

hashtag
Öffnen Sie ein Unsloth-Notebook

  1. Klonen Sie das Unsloth- Notebooks-Repositoryarrow-up-right:

git clone https://github.com/unslothai/notebooks
cd notebooks/nb

  1. Öffnen Sie Ihr gewünschtes Notebook. Unsloth unterstützt die meisten Modelle, einschließlich Embedding, TTS. Beispielsweise verwenden wir Qwen3-4B RL: nb/Qwen3_(4B)-GRPO.ipynb

4

hashtag
Wählen Sie einen Kernel und wählen Sie Colab

Klicken Sie in der Notebook-Symbolleiste auf Kernel auswählen, und wählen Sie dann Colab

5

hashtag
Fügen Sie einen neuen Colab-Server hinzu

Nachdem Sie Colabgewählt haben, sehen Sie ein Dropdown mit Serveroptionen.

  1. Klicken Sie + Neuen Colab-Server hinzufügen

  2. Beim ersten Mal kann ein Browserfenster zur Google-Authentifizierung geöffnet werden

    • Melden Sie sich an, gewähren Sie den Zugriff und kehren Sie dann zu VS Code zurück

6

hashtag
Wählen Sie GPU und benennen Sie den Server

  1. Stellen Sie Hardwarebeschleuniger auf GPU

  2. Wählen Sie einen GPU-Typ (zum Beispiel T4, falls verfügbar)

  3. Geben Sie dem Server einen Namen (beliebig)

circle-info

Hinweis: Die Verfügbarkeit von GPUs hängt von Ihrem Colab-Plan und der aktuellen Kapazität ab. Wenn Sie keine GPU-Optionen sehen, lesen Sie die Fehlerbehebung weiter unten.

7

hashtag
Wählen Sie den Python-Kernel

Sobald die Verbindung zum Colab-Server hergestellt ist, wählen Sie den Python Kernel aus, der für diese Laufzeit angezeigt wird (in der Regel ein Python-3-Kernel).

8

hashtag
Führen Sie das Notebook aus

  • Klicken Sie Alle ausführen in der Notebook-Symbolleiste (oder führen Sie die Zellen von oben nach unten aus)

  • Beobachten Sie, wie die Setup-Zellen Abhängigkeiten installieren und dann den Unsloth-Workflow starten

  • Sie können unsere speziellen Feinabstimmungs- oder Reinforcement-Learning- Leitfäden für weitere Informationen darüber ansehen, wie Sie genau mit Unsloth beginnen.

hashtag
Video-Tutorial

hashtag
Fehlerbehebung

hashtag
Nachdem der Colab-Server die Verbindung getrennt hat, wird das Notebook auf einem neuen Server nicht ausgeführt

Was passiert: Wenn das Notebook geöffnet bleibt, während der Colab-Server die Verbindung trennt, kann VS Code nach dem Wiederverbinden in einem schlechten Kernel-/Laufzeitzustand steckenbleiben. Verwandtes GitHub-Issuearrow-up-right.

Lösung: Schließen Sie die Notebook-Registerkarte vollständig und öffnen Sie das Notebook erneut.

hashtag
Sie können keine GPU auswählen (es wird nur die CPU angezeigt)

Mögliche Ursachen und Lösungen:

  • Colab-Free-Tier-Kapazität: GPUs können vorübergehend nicht verfügbar sein → versuchen Sie es später erneut.

  • Tatsächlich nicht mit einer Colab-Laufzeit verbunden: überprüfen Sie erneut Kernel auswählen → Colab und stellen Sie sicher, dass ein Colab-Server aktiv ist.

  • Konto-/Regionsbeschränkungen oder erreichte Limits: möglicherweise müssen Sie warten oder ein anderes Google-Konto / einen anderen Plan verwenden.

hashtag
Alles hat funktioniert, aber Pakete sind nach dem Wiederverbinden „verschwunden“

Colab-Laufzeiten sind ephemer. Wenn ein Server neu startet, müssen Sie normalerweise die Setup-/Installationszellen erneut ausführen (oft die ersten Zellen im Notebook).

Zuletzt aktualisiert

War das hilfreich?