> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/integrationen/so-fuhren-sie-lokale-ki-modelle-in-vs-code-aus.md).

# So führen Sie lokale KI-Modelle in VS Code aus

So führen Sie lokale LLMs mit VS Code aus

Diese Anleitung zeigt Ihnen, wie Sie ein lokales Modell, das in Unsloth läuft, mit dem Copilot-Chat von VS Code verbinden. Unsloth lädt das Modell und stellt es bereit, während VS Code die Chat-Oberfläche und die Programmierwerkzeuge bereitstellt.

Sie können über Ihren Code chatten, Fragen stellen und den Agent-Modus verwenden, um mit einem Modell, das Tool-Aufrufe unterstützt, Dateien zu erstellen und zu bearbeiten.

### VS Code installieren

{% tabs %}
{% tab title="macOS" %}
{% stepper %}
{% step %}

#### VS Code herunterladen

Öffnen Sie die [VS-Code-Downloadseite](https://code.visualstudio.com/download) und laden Sie die macOS-Version für Ihren Mac herunter. Wählen Sie **Apple Silicon**, **Intel**oder **Universal** wenn Sie unsicher sind.
{% endstep %}

{% step %}

#### VS Code einrichten

Öffnen Sie die heruntergeladene `.zip` Datei und ziehen Sie dann **Visual Studio Code.app** in Ihren **Programme** -Ordner.

Gehen Sie dann zum Öffnen zu **Programme** und doppelklicken Sie auf **Visual Studio Code**.
{% endstep %}
{% endstepper %}
{% endtab %}

{% tab title="Windows" %}
{% stepper %}
{% step %}

#### VS Code herunterladen

Öffnen Sie die [VS-Code-Downloadseite](https://code.visualstudio.com/download) und laden Sie das Windows- **User Installer** für Ihr Gerät herunter. Die meisten PCs verwenden **x64**.
{% endstep %}

{% step %}

#### VS Code einrichten

Öffnen Sie die heruntergeladene `.exe` Datei und folgen Sie den Anweisungen des Installers.

Gehen Sie dann zum Öffnen zum Startmenü, suchen Sie nach **Visual Studio Code**und starten Sie es.

Wenn während der Installation ein Terminal geöffnet war, schließen Sie es und öffnen Sie es erneut, damit der aktualisierte PATH übernommen wird.
{% endstep %}
{% endstepper %}
{% endtab %}

{% tab title="Linux" %}
{% stepper %}
{% step %}

#### VS Code herunterladen

Öffnen Sie die [VS-Code-Downloadseite](https://code.visualstudio.com/download) und wählen Sie das Paket für Ihre Distribution aus:

* **Ubuntu oder Debian:** `.deb`
* **Fedora oder RHEL:** `.rpm`
  {% endstep %}

{% step %}

#### VS Code einrichten

Öffnen Sie ein Terminal im Ordner mit Ihrem Download und führen Sie aus:

**Ubuntu oder Debian:**

```bash
sudo apt install ./code_*.deb
```

**Fedora oder RHEL:**

```bash
sudo dnf install ./code-*.rpm
```

Gehen Sie dann zum Öffnen zu Ihrem Anwendungsstarter, suchen Sie nach **Visual Studio Code**und starten Sie es.
{% endstep %}
{% endstepper %}
{% endtab %}
{% endtabs %}

### ⚡ Schnellstart

Nach der Installation von VS Code müssen wir [Unsloth Desktop](/docs/de/desktop.md) installieren, damit VS Code lokale Modelle bereitstellen und Inferenz ausführen kann.

{% stepper %}
{% step %}

#### Unsloth herunterladen

Der einfachste Einstieg ist die Installation der Unsloth-Desktop-App. Sie unterstützt [macOS](/docs/de/loslegen/install/mac.md), Linux, [Windows](/docs/de/loslegen/install/windows-installation.md), [NVIDIA](/docs/de/loslegen/install/pip-install.md), [AMD](/docs/de/loslegen/install/amd.md), Intel- und CPU-Setups.

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)

Oder, wenn Sie die manuelle Installation bevorzugen:

{% tabs %}
{% tab title="Native-Installation" %}
**MacOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% endtab %}

{% tab title="Docker" %}
Das [Unsloth-Docker-Image](https://hub.docker.com/r/unsloth/unsloth) `unsloth/unsloth` ist auf Docker verfügbar. [Anleitung lesen.](https://unsloth.ai/docs/get-started/install/docker)
{% endtab %}

{% tab title="Homebrew" %}
Unsloth Desktop installieren:

{% code collapsedlinecount="10" %}

```bash
brew install --cask unsloth
```

{% endcode %}

Unsloth Desktop aktualisieren:

```bash
brew upgrade --cask unsloth
```

{% endtab %}

{% tab title="WinGet" %}
Unsloth Desktop installieren:

```powershell
winget install --id UnslothAI.Unsloth -e
```

Unsloth Desktop aktualisieren:

```powershell
winget upgrade --id UnslothAI.Unsloth -e
```

{% endtab %}
{% endtabs %}
{% endstep %}

{% step %}

#### Installieren

1. Öffnen Sie den Unsloth-Installer (`.dmg`, `.exe` Dateien)
2. Ziehen Sie Unsloth auf dem Mac in den Programme-Ordner oder schließen Sie die Einrichtung unter Windows ab.
3. Starten Sie die App und warten Sie, bis die Installation abgeschlossen ist
   {% endstep %}

{% step %}

#### Wählen Sie ein Modell

Öffnen Sie oben das Dropdown-Menü „Modell auswählen“ oder den Tab „Model hub“, wählen Sie ein Modell und eine Quantisierung, die zu Ihrem Gerät passt, und laden Sie es dann herunter. Sobald der Download abgeschlossen ist, können Sie mit dem Chatten beginnen – keine Einrichtung erforderlich.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FNCEVgKLJI0goPqjgcg9B%2Fmodel%20hub%20models.png?alt=media&amp;token=533b5e3c-a901-4b33-963e-4a703cc9d5a6" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### Unsloth ist jetzt bereit

Wenn Ihr Modell in Unsloth geladen ist, führen Sie dies in Ihrem Terminal aus:

```bash
unsloth start vscode
```

Öffnen Sie **Copilot Chat** in VS Code und wählen Sie Ihr Modell unter **Unsloth** im Modellauswahlfeld aus. Senden Sie eine Nachricht, um die Verbindung zu prüfen.

Lassen Sie Unsloth laufen, während Sie das Modell verwenden.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FpAGvwjGD0iVMZKBoyu7m%2Fgreeennn.png?alt=media&amp;token=d17a5528-8375-444c-9aff-f9e9f7903bcd" alt="" width="563"><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}

### 🔌 Verbinden Sie Ihr Modell

Wenn ein Modell in Unsloth geladen ist, öffnen Sie ein Terminal und führen Sie aus:

```bash
unsloth start vscode
```

Dadurch wird das Modell, das Unsloth derzeit bereitstellt, dem Modellauswahlfeld von VS Code hinzugefügt. Damit wird die Verbindung konfiguriert; öffnen Sie VS Code separat, falls es noch nicht ausgeführt wird.

Sie können auch ein Modell laden und VS Code mit einem einzigen Befehl konfigurieren:

```bash
unsloth start vscode --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL --context-length 32768
```

Ein anderes Modell bevorzugt? Ersetzen Sie die Modell-ID durch Ihre Wahl. Sie können auch eine lokale GGUF-Datei übergeben:

```bash
unsloth start vscode --model "/path/to/model.gguf" --context-length 32768
```

Der Befehl richtet die Verbindung automatisch ein, behält Ihre anderen Modelle bei und sichert Ihre VS-Code-Modelleinstellungen.

Außerdem wird ein API-Schlüssel mit dem Namen **VS Code**erstellt. Um ihn zu widerrufen, öffnen Sie **Einstellungen** in Unsloth und wählen Sie **API**.

### <i class="fa-vscode">:vscode:</i> Verwenden Sie Ihr lokales Modell in VS Code

Öffnen Sie einen Projektordner in VS Code oder einen leeren Ordner, um es auszuprobieren.

Öffnen Sie **Copilot Chat**klicken Sie unter dem Chat-Eingabefeld auf das Modellauswahlfeld und wählen Sie Ihr Modell unter **Unsloth**aus. Wählen Sie **Agent** damit es Dateien erstellen und bearbeiten kann, oder **Ask** um über Ihren Code zu chatten.

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fdimfm9IrGcW4PK2OFNan%2Fimage.png?alt=media&amp;token=6ab59f12-9fdf-4e08-82fc-e52dbe70f375" alt="" width="563"><figcaption></figcaption></figure></div>

Der Agent-Modus erfordert Unterstützung für Tool-Aufrufe. Wir empfehlen mindestens **32K Kontext**.

Lassen Sie uns ein einfaches Spiel bauen. Probieren Sie diesen Prompt aus:

{% code overflow="wrap" %}

```
Erstellen Sie ein spielbares Snake-Spiel in einer einzelnen index.html-Datei.

Verwenden Sie die Pfeiltasten zum Bewegen, zeigen Sie die Punktzahl an und fügen Sie einen Neustart-Button hinzu.

Geben Sie ihm einen hellen Hintergrund und eine leuchtend grüne Schlange. Verwenden Sie HTML, CSS und JavaScript ohne externe Abhängigkeiten.
```

{% endcode %}

{% columns %}
{% column %}
Überprüfen Sie alle Tool-Berechtigungen, bevor Sie sie genehmigen. Sobald der Agent `index.html`erstellt hat, öffnen Sie es in Ihrem Browser und spielen Sie.

Möchten Sie etwas ändern? Bitten Sie es, Schwierigkeitsgrade oder einen Highscore-Zähler hinzuzufügen.

Lassen Sie Ihr Modell geladen und den Unsloth-Server laufen, während Sie arbeiten.
{% endcolumn %}

{% column %}

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F7CYu4PotqktrbwiRXkPP%2Fwormgif.gif?alt=media&amp;token=08dbd04f-c6a4-48ea-986a-428131c8e970" alt="" width="375"><figcaption></figcaption></figure></div>

{% endcolumn %}
{% endcolumns %}

Wenn Ihr Modell nicht angezeigt wird, überprüfen Sie **Modelle verwalten** im Modellauswahlfeld. Sie können VS Code auch aktualisieren, indem Sie `Entwickler: Fenster neu laden` über die Befehlspalette ausführen.

#### Modelle wechseln

Laden Sie in Unsloth ein anderes Modell und führen Sie dann aus:

```bash
unsloth start vscode
```

Wählen Sie das neue Modell unter **Unsloth** im Copilot-Chat aus.

## Fehlerbehebung

**Mein Modell wird nicht angezeigt**

Öffnen Sie **Modelle verwalten** im Modellauswahlfeld und suchen Sie nach **Unsloth**. Wenn es fehlt, prüfen Sie, ob GitHub Copilot Chat aktiviert ist, und führen Sie dann `unsloth start vscode` erneut aus.

Wenn es immer noch nicht angezeigt wird, öffnen Sie die Befehlspalette und führen Sie **Entwickler: Fenster neu laden**.

**Mein Modell wird in Ask angezeigt, aber nicht im Agent-Modus**

Der Agent-Modus erfordert Unterstützung für Tool-Aufrufe. Verwenden Sie **Ask** mit diesem Modell oder wechseln Sie zu einem Modell, dessen Chatvorlage Tools unterstützt.

**Ich erhalte Fehler zur Kontextlänge**

Anweisungen und Tools des Agenten belegen einen Teil des Kontextfensters des Modells. Wir empfehlen mindestens **32K Kontext** für den Agent-Modus.

Ersetzen Sie den Pfad unten durch Ihre GGUF-Datei und führen Sie aus:

{% code overflow="wrap" %}

```bash
unsloth start vscode --model "/path/to/model.gguf" --context-length 32768
```

{% endcode %}

Laden Sie VS Code neu, wenn die Modelldetails noch nicht aktualisiert wurden. Es kann 32.768 Tokens als **33K**.

#### Unsloth läuft auf einem Remote-Computer

In einer SSH- oder Containersitzung ohne VS-Code-Benutzerverzeichnis gibt der Befehl die Konfiguration aus, die lokal hinzugefügt werden soll, sowie Anweisungen zur Verbindung.

Folgen Sie den ausgegebenen Anweisungen, um den Server von Ihrem Computer aus erreichbar zu machen, und fügen Sie dann die Konfiguration Ihrer lokalen VS-Code-Installation hinzu.

Wenn das Modell in einem Remote-SSH-, WSL- oder Dev-Container-Fenster nicht angezeigt wird, versuchen Sie ein **lokales VS-Code-Fenster** das mit dem entfernten Unsloth-Server verbunden ist.

Weitere Optionen zum Laden von Modellen und Einstellungen für die Remote-Verbindung finden Sie im [Unsloth-Startleitfaden](https://unsloth.ai/docs/integrations/unsloth-start).


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/integrationen/so-fuhren-sie-lokale-ki-modelle-in-vs-code-aus.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.