> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/integrationen/unsloth-start.md).

# Coding-Agents mit lokalen LLMs mit Unsloth Start ausführen

Unsloth ermöglicht es dir, zu verbinden [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md), Hermes, OpenCode und andere Coding-Agents mit einem lokalen Modell über den `unsloth start` Befehl zu verbinden. Der gesamte Workflow kann offline auf deiner eigenen Hardware ausgeführt werden. [Unsloth](/docs/de/desktop.md) konfiguriert automatisch bei jedem Start den Endpunkt, den API-Schlüssel, den Provider, das Modell und die Kontextlänge, sodass du deinen bevorzugten Agenten verwenden kannst, ohne sie zu ändern. Diese Anleitung zeigt dir, wie du Modelle von der Kommandozeile aus für die Offline-Nutzung startest und mit Unsloth verbindest.

{% columns %}
{% column width="58.333333333333336%" %}

### Schnellstart

Stelle zuerst sicher, dass du [Unsloth installiert hast](/docs/de/neu/studio/install.md). Öffne dann Unsloth, lade ein Modell, gehe zu deinem Projektordner und führe den Befehl im Terminal aus:

```bash
unsloth start claude
```

Du kannst `claude` durch jeden beliebigen Agenten unten ersetzen:
{% endcolumn %}

{% column width="41.666666666666664%" %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FpXE6kCHjh8qOEaggf94M%2FScreenshot_20260718_122426.png?alt=media&amp;token=a59e4c8c-efdb-451b-b1f8-621955564f6d" alt=""><figcaption><p>Claude Code läuft lokal mit Qwen3.5.</p></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

| Agent                                                              | Befehl                   |
| ------------------------------------------------------------------ | ------------------------ |
| <i class="fa-claude">:claude:</i> Claude Code                      | `unsloth start claude`   |
| <i class="fa-openai">:openai:</i> OpenAI Codex                     | `unsloth start codex`    |
| <i class="fa-vscode">:vscode:</i> Visual Studio Code               | `unsloth start vscode`   |
| <i class="fa-deepseek">:deepseek:</i> DeepSeek Harness             | `unsloth start dsh`      |
| <i class="fa-rectangle-vertical">:rectangle-vertical:</i> OpenCode | `unsloth start opencode` |
| <i class="fa-caduceus">:caduceus:</i> Hermes Agent                 | `unsloth start hermes`   |
| <i class="fa-lobster">:lobster:</i> OpenClaw                       | `unsloth start openclaw` |
| <i class="fa-pi">:pi:</i> Pi Agent                                 | `unsloth start pi`       |

Unsloth verwendet temporäre oder sitzungsgebundene Provider-Konfiguration. Es fügt den normalen Konfigurationsdateien des Agents keinen Unsloth-Provider hinzu.

### Agentenanleitungen

<table data-column-title-hidden data-view="cards"><thead><tr><th>Titel</th><th data-hidden data-card-cover data-type="image">Titelbild</th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td>Claude Code</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FT8nv3UJzIrcxmjSn8OfW%2Fclaude-code.webp?alt=media&amp;token=811f9635-7321-427c-a11e-29a40e49e376">claude-code.webp</a></td><td><a href="/docs/de/grundlagen/claude-code.md">Claude Code</a></td></tr><tr><td>Codex</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FLxRuVHEBYywquhRGBYu0%2Fcodex%20only%20logo.png?alt=media&amp;token=7faa9cbd-090a-45dc-9d5e-acb1a9591f27">codex only logo.png</a></td><td><a href="/docs/de/grundlagen/codex.md">OpenAI Codex</a></td></tr><tr><td>Visual Studio Code</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FsBmg9gZ062wIQDAuibJ7%2Fvscode-card.png?alt=media&amp;token=1659960f-0876-4469-a6a7-7408e7a6570a">vscode-card.png</a></td><td><a href="/docs/de/integrationen/so-fuhren-sie-lokale-ki-modelle-in-vs-code-aus.md">Run models in VS Code</a></td></tr><tr><td>Hermes Agent</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F6ysPTzsXIO5diu4vOTCh%2Fimages.jpeg?alt=media&amp;token=5cc58141-69eb-4450-8214-7a8421fbe2a5">images.jpeg</a></td><td><a href="/docs/de/integrationen/hermes-agent.md">Hermes Agent</a></td></tr><tr><td>OpenClaw</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAd5uo6LjavtBrrKZfwZ3%2Fopenclaw-hero-light.png?alt=media&amp;token=3097e40f-e80c-4c9c-8efc-02ecf5530ef6">openclaw-hero-light.png</a></td><td><a href="/docs/de/integrationen/openclaw.md">OpenClaw</a></td></tr><tr><td>OpenCode</td><td><a href="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FlCi6Ab4f2qLlNj2EWGL0%2Fopencodelogo.png?alt=media&amp;token=6118773e-5392-4718-a431-a50157a34cbe">opencodelogo.png</a></td><td><a href="/docs/de/integrationen/opencode.md">OpenCode</a></td></tr></tbody></table>

### Lade ein Modell von der Kommandozeile

<div align="center"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FAOqECGHODYPDGeYDpXOz%2Fwasim%20unslothstart.png?alt=media&amp;token=a7a1bf5e-d964-4bd4-a0d0-f86753e9f5a8" alt="unsloth start launching Codex with a local GGUF model in Unsloth Studio" width="563"><figcaption><p>Unsloth start findet oder lädt das Modell, konfiguriert den Coding-Agenten und startet ihn aus dem aktuellen Projekt.</p></figcaption></figure></div>

Du kannst beim Starten des Agenten ein Modell auswählen und laden:

{% hint style="success" %}
Wenn keine Einstellungen-/Sampling-Flags gesetzt sind, wählt Unsloth automatisch die besten/empfohlenen Einstellungen für das Modell aus, einschließlich Kontextlänge, Temperatur usw.
{% endhint %}

```bash
unsloth start claude \
  --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL \
  --context-length 32768 \
  --temp 1.0 \
  --top-p 0.95 \
  --top-k 20 \
  --min-p 0.0 \
  --reasoning-effort medium
```

Der `:UD-Q4_K_XL` -Suffix wählt die GGUF-Quantisierung aus.

Wenn die Standard-Lokaladresse verwendet wird, ermöglicht `--model` es, `unsloth start` einen temporären Server zu starten, wenn Unsloth Studio noch nicht läuft. Der temporäre Server stoppt, wenn der Agent beendet wird. Wenn Unsloth bereits läuft, verbindet sich der Befehl damit und lässt es weiterlaufen.

Siehe unten Beispiele dafür, wie Agenten mit einem lokalen LLM verbunden werden:

{% columns %}
{% column width="50%" %}

<div align="left"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fmhay2zcaqL5mNNBeYwKv%2FScreenshot_20260717_163314.png?alt=media&amp;token=5a1e2f04-92b1-42f1-adac-9494fb43613a" alt=""><figcaption><p>OpenCode</p></figcaption></figure></div>

{% endcolumn %}

{% column width="50%" %}

<div align="left"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FnrT2lJtpD4uwMkn5HAhO%2FScreenshot_20260717_163427.png?alt=media&amp;token=ffe77a32-05a9-439e-845f-5a7a4b034464" alt=""><figcaption><p>Hermes</p></figcaption></figure></div>
{% endcolumn %}
{% endcolumns %}

{% columns %}
{% column width="33.33333333333333%" %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FfKxk4eUVf0tZB1IFtava%2FScreenshot_20260717_161638.png?alt=media&amp;token=b709f099-704e-4d97-947e-d75cbf43cd8a" alt=""><figcaption><p>Claude Code</p></figcaption></figure>
{% endcolumn %}

{% column width="33.33333333333333%" %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FxPckgHYLacJK1jpwXHOR%2FScreenshot_20260717_163145.png?alt=media&amp;token=e61f7404-341e-474b-bc08-59adc66ce274" alt=""><figcaption><p>Codex</p></figcaption></figure>
{% endcolumn %}

{% column %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fy5QNC3RaSkCIr1KFBrMd%2FScreenshot_20260717_163831.png?alt=media&amp;token=e1501dbe-6a2b-4a4d-96df-92a3e8f2f3df" alt=""><figcaption><p>Openclaw</p></figcaption></figure>
{% endcolumn %}
{% endcolumns %}

### Verbinde dich mit einem entfernten Unsloth-Server

Setze die Unsloth-URL und den API-Schlüssel, bevor du einen Agenten startest:

```bash
export UNSLOTH_STUDIO_URL=https://studio.example.com
export UNSLOTH_API_KEY=sk-unsloth-...
unsloth start claude
```

Du kannst den Schlüssel auch mit `--api-key`übergeben. Für einen verifizierten lokalen Unsloth-Server `unsloth start` erstellt oder verwendet automatisch den API-Schlüssel.

#### Unsloth in VS Code verwenden

Verbinde ein lokales Modell mit dem Copilot Chat von VS Code. Erfordert die GitHub-Copilot-Chat-Erweiterung; kein Copilot-Plan nötig.

```bash
# Verbinde das Modell, das Unsloth bereits bereitstellt
unsloth start vscode

# Oder lade ein Modell mit 32K Kontext für den Agent-Modus
unsloth start vscode unsloth/Qwen3.5-4B-GGUF:UD-Q4_K_XL --context-length 32768
```

Öffne Copilot Chat und wähle dein Modell unter **Unsloth**. Wenn es fehlt, überprüfe **Modelle verwalten** oder führe **Entwickler: Fenster neu laden**.

Der Agent-Modus benötigt Tool-Calling-Unterstützung und mindestens **32K Kontext**. Verwende den Ask-Modus für Modelle ohne Tool-Calling.

Der Befehl sichert deine VS-Code-Konfiguration und behält andere Modelle bei. Nachdem du die Modelle gewechselt hast, führe `unsloth start vscode` erneut aus, um seinen Eintrag zu aktualisieren.

**Remote-Server:** In einer SSH- oder Container-Sitzung ohne VS-Code-Benutzerverzeichnis gibt der Befehl die Konfiguration aus, die lokal hinzugefügt werden soll, sowie Anweisungen für die Verbindung oder das Port-Forwarding. Verwende ein lokales VS-Code-Fenster, wenn das Modell im Modell-Auswahlmenü des entfernten Workspaces fehlt.

### Flags + Optionen

Wenn keine Einstellungen-/Sampling-Flags gesetzt sind, wählt Unsloth automatisch die besten/empfohlenen Einstellungen für das Modell aus, einschließlich Kontextlänge, Temperatur usw.

Andernfalls kannst du diese Flags entsprechend anpassen:

| Option                                       | Was es bewirkt                                                                                                                                                                                                                              |
| -------------------------------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| `--model`, `-m`                              | Wählt ein Modell aus. Ohne dieses wird das von Unsloth gemeldete erste Modell verwendet.                                                                                                                                                    |
| `--api-key`                                  | Stelle einen Unsloth-API-Schlüssel bereit. Du kannst auch `UNSLOTH_API_KEY`.                                                                                                                                                                |
| `--launch` / `--no-launch`                   | Starte den Agenten oder gib die generierte Umgebung und den Befehl aus.                                                                                                                                                                     |
| `--serve` / `--no-serve`                     | Erlaube oder verhindere den automatischen Start eines lokalen Servers.                                                                                                                                                                      |
| `--gguf-variant`                             | Wähle eine GGUF-Quantisierungsvariante aus.                                                                                                                                                                                                 |
| `--reasoning`                                | Verwende Reasoning im Chat: on, off oder auto. Auto folgt der Chat-Vorlage des Modells, was normalerweise on bedeutet.                                                                                                                      |
| `--reasoning-effort`                         | Reasoning-Aufwand, der an die Chat-Vorlage des Modells übergeben wird, z. B. medium. Die Stufen sind je nach Modell unterschiedlich, also verwende eine, die das Modell akzeptiert. Wenn nicht gesetzt, bleibt die eigene Vorlage erhalten. |
| `--context-length`, `--max-seq-length`       | Setzt beim Laden des Modells die angeforderte Kontextlänge.                                                                                                                                                                                 |
| `--load-in-4bit` / `--no-load-in-4bit`       | Steuert das 4-Bit-Laden für nicht-GGUF-Hugging-Face-Modelle.                                                                                                                                                                                |
| `--tensor-parallel` / `--no-tensor-parallel` | Aktiviert oder deaktiviert das tensorparallele Laden von GGUF für Multi-GPU-Systeme.                                                                                                                                                        |
| `--persist` / `--no-persist`                 | Behält den von Unsloth verwalteten Agenten-Home-Bereich bei, sofern zutreffend.                                                                                                                                                             |
| `--yolo`                                     | Verwendet den Nicht-Prompting- oder Vertrauensmodus des ausgewählten Agenten.                                                                                                                                                               |
| `-h`, `--help`                               | Zeigt die Hilfe zum Befehl an.                                                                                                                                                                                                              |

Ladeoptionen werden verwendet, wenn Unsloth das angeforderte Modell laden oder abgleichen muss.

### Normale Befehle an den Agenten übergeben

Argumente, die keine Unsloth-Optionen sind, werden an den ausgewählten Agenten übergeben:

```bash
unsloth start claude --continue
unsloth start codex --persist resume --last
unsloth start opencode run --continue "Setze die vorherige Aufgabe fort"
unsloth start pi --persist --continue
```

Verwende den eigenen Hilfe-Befehl des Agenten für seine vollständige Liste nativer Optionen.

### Sitzungen und `--persist`

`--persist` behält verwalteten Speicher bei. Es setzt eine Konversation nicht von selbst fort; übergib auch den normalen Fortsetzen-Befehl des Agenten.

| Agent           | Brauchst du `--persist`?                                                                | Beispiel zum Fortsetzen                                            |
| --------------- | --------------------------------------------------------------------------------------- | ------------------------------------------------------------------ |
| Claude Code     | Nein. Claude verwendet seinen normalen Sitzungs-Speicher.                               | `unsloth start claude --continue`                                  |
| OpenAI Codex    | Ja. Das verwaltete Codex-Home ist standardmäßig temporär.                               | `unsloth start codex --persist resume --last`                      |
| OpenClaw        | Ja. Verwaltete Konfiguration, Arbeitsbereich und Sitzungen sind standardmäßig temporär. | Verwende `--persist` mit derselben nativen Sitzungs-ID.            |
| OpenCode        | Nein. OpenCode verwendet seinen normalen Sitzungs-Speicher.                             | `unsloth start opencode run --continue "Fortsetzen"`               |
| Hermes Agent    | Ja. Das verwaltete Hermes-Home ist standardmäßig temporär.                              | `unsloth start hermes --persist --continue --oneshot "Fortsetzen"` |
| Pi Coding Agent | Ja. Das verwaltete Pi-Home ist standardmäßig temporär.                                  | `unsloth start pi --persist --continue`                            |

Für Codex, OpenClaw, Hermes und Pi verwende `--persist` vom ersten Start an und erneut, wenn du zur Sitzung zurückkehrst.

{% tabs %}
{% tab title="Codex" %}

```bash
unsloth start codex --persist
unsloth start codex --persist resume --last
```

{% endtab %}

{% tab title="OpenClaw" %}
Verwende eine stabile Sitzungs-ID für eine benannte Sitzung:

```bash
unsloth start openclaw --persist \
  agent --local --session-id my-session --message "Untersuche dieses Repository"

unsloth start openclaw --persist \
  agent --local --session-id my-session --message "Fortsetzen"
```

{% endtab %}

{% tab title="Hermes Agent" %}

```bash
unsloth start hermes --persist --oneshot "Untersuche dieses Repository"
unsloth start hermes --persist --continue --oneshot "Fortsetzen"
```

{% endtab %}

{% tab title="Pi Coding Agent" %}

```bash
unsloth start pi --persist --print "Untersuche dieses Repository"
unsloth start pi --persist --continue --print "Fortsetzen"
```

{% endtab %}
{% endtabs %}

#### Den Startbefehl ausgeben, ohne ihn auszuführen

```bash
unsloth start claude --no-launch
```

Dies gibt die generierte Umgebung und den Befehl aus. Die Ausgabe kann Verbindungsdaten enthalten, daher solltest du sie nicht in Logs oder Screenshots veröffentlichen.

### Modus zum Umgehen von Berechtigungen

`--yolo` entspricht dem Vertrauens- oder Nicht-Prompting-Modus des ausgewählten Agents. Er kann Bestätigungsabfragen reduzieren und dem Agenten erlauben, Befehle auszuführen, ohne vorher zu fragen.

{% hint style="warning" %}
Verwende ihn nur in einer Umgebung, in der uneingeschränkte Agent-Aktionen akzeptabel sind.
{% endhint %}

#### Häufige Probleme

<details>

<summary>Es wurde kein Unsloth-Server gefunden</summary>

Starte Unsloth und lade ein Modell oder übergebe \`--model\`, damit Unsloth einen temporären lokalen Server starten kann.

</details>

<details>

<summary>Codex verbindet sich nicht</summary>

Verwende ein GGUF-Modell, das über \`llama-server\` läuft. Die aktuelle Codex-Integration verwendet das Unsloth-Transformers-Backend nicht.

</details>

<details>

<summary>Eine Sitzung wurde nicht wiederhergestellt</summary>

Für Codex, OpenClaw, Hermes und Pi verwende bei den ersten und späteren Starts \`--persist\` und übergib dann die native Fortsetzen-Option des Agents.

</details>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/integrationen/unsloth-start.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
