search
DiscordRedditGitHub

vscodeWie man LLMs in VS Code mit Unsloth & Colab-GPUs finetunt

Anleitung zum direkten Finetunen von Modellen in Visual Studio Code über Unsloth und Google Colab.

Sie können LLMs jetzt direkt aus Visual Studio Code (VS Code) feinabstimmen, lokal oder durch die Verwendung der Google Colab-Erweiterung. In dieser Anleitung erfahren Sie, wie Sie jeden Unsloth Feinabstimmungs-Notebook in VS Code mit einer Colab-Laufzeit verbinden, damit Sie auf Ihrer lokalen oder kostenlosen Colab-GPU trainieren können. Sie können sich auch unser Video-Tutorial ansehen hier.

1

hashtag
Voraussetzungen

Zum Beginnen benötigen wir:

  • Installiert VS Codearrow-up-right. Git (zum Klonen des Notebook-Repos) sollte standardmäßig installiert sein.

  • Eine Google-Konto (zur Authentifizierung mit Colab)

  • Empfohlen: die Jupyter Erweiterung in VS Code (die meisten Setups haben sie bereits)

2

hashtag
Installieren Sie die Colab-Erweiterung in VS Code

  1. Öffnen Sie Erweiterungen in VS Code (Strg+Shift+X / Cmd+Shift+X)

  2. Suchen Sie nach „Colab“ und installieren Sie die Google Colab Erweiterung

3

hashtag
Öffnen Sie ein Unsloth-Notebook

  1. Klonen Sie das Notebooks-Repository:

    git clone https://github.com/unslothai/notebooks
cd notebooks

  2. Öffnen Sie das gewünschte Notebook. Unsloth unterstützt die meisten Modelle einschließlich Embedding, TTS. Zum Beispiel verwenden wir Qwen3-4B RL: nb/Qwen3_(4B)-GRPO.ipynb

4

hashtag
Wählen Sie einen Kernel und wählen Sie Colab

In der Notebook-Symbolleiste klicken Sie Kernel auswählen, dann wählen Sie Colab

5

hashtag
Einen neuen Colab-Server hinzufügen

Nachdem Sie Colabausgewählt haben, sehen Sie ein Dropdown mit Serveroptionen.

  1. Klicken Sie + Neuen Colab-Server hinzufügen

  2. Beim ersten Mal kann sich ein Browserfenster zur Google-Authentifizierung öffnen

    • Melden Sie sich an, gewähren Sie Zugriff und kehren Sie dann zu VS Code zurück

6

hashtag
Wählen Sie GPU und benennen Sie den Server

  1. Setzen Sie Hardwarebeschleuniger zu GPU

  2. Wählen Sie einen GPU-Typ (zum Beispiel T4, falls verfügbar)

  3. Geben Sie dem Server einen Namen (beliebig)

circle-info

Hinweis: Die Verfügbarkeit von GPUs hängt von Ihrem Colab-Plan und der aktuellen Kapazität ab. Wenn Sie keine GPU-Optionen sehen, lesen Sie die Fehlerbehebung unten.

7

hashtag
Wählen Sie den Python-Kernel

Sobald Sie mit dem Colab-Server verbunden sind, wählen Sie den Python Kernel, der für diese Laufzeit angezeigt wird (in der Regel ein Python-3-Kernel).

8

hashtag
Führen Sie das Notebook aus

  • Klicken Sie Alle ausführen in der Notebook-Symbolleiste (oder führen Sie die Zellen von oben nach unten aus)

  • Beobachten Sie, wie die Setup-Zellen Abhängigkeiten installieren und dann den Unsloth-Workflow starten

hashtag
Video-Tutorial

hashtag
Fehlerbehebung

hashtag
Nachdem die Colab-Verbindung getrennt wurde, läuft das Notebook nicht auf einem neuen Server

Was passiert: Wenn das Notebook geöffnet bleibt, während die Colab-Verbindung getrennt wird, kann VS Code nach dem erneuten Verbinden in einem fehlerhaften Kernel-/Laufzeitzustand hängen bleiben. Zugehöriges GitHub-Issuearrow-up-right.

Behebung: Schließen Sie die Notebook-Registerkarte vollständig und öffnen Sie das Notebook erneut.

hashtag
Sie können keine GPU auswählen (es wird nur die CPU angezeigt)

Mögliche Ursachen und Lösungen:

  • Colab Free-Tier-Kapazität: GPUs können vorübergehend nicht verfügbar sein → versuchen Sie es später erneut.

  • Tatsächlich nicht mit einer Colab-Laufzeit verbunden: überprüfen Sie erneut Kernel auswählen → Colab und stellen Sie sicher, dass ein Colab-Server aktiv ist.

  • Konto-/Regionsbeschränkungen oder erreichte Limits: möglicherweise müssen Sie warten oder ein anderes Google-Konto / einen anderen Plan verwenden.

hashtag
Alles hat funktioniert, aber Pakete sind nach dem erneuten Verbinden „verschwunden“

Colab-Laufzeiten sind ephemeral. Wenn ein Server neu startet, müssen Sie normalerweise die Setup-/Installationszellen erneut ausführen (oft die ersten wenigen Zellen im Notebook).

VorherigeCondaNächsteGoogle Colab

Zuletzt aktualisiert

War das hilfreich?