> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/integrationen/curl-and-http-mit-unsloth-verbinden.md).

# Curl & HTTP mit Unsloth verbinden

Anleitung zum Aufrufen der Unsloth-API mit curl (oder einem beliebigen HTTP-Client), inklusive kopierbarer Beispiele für jeden Endpunkt und jede Funktion..

Unsloth stellt drei OpenAI-/Anthropic-kompatible Wire-Formate unter derselben Basis-URL auf dem Port bereit, auf dem Unsloth gestartet wurde. Sie alle erwarten einen `Authorization: Bearer sk-unsloth-…` -Header und geben je nachdem, ob Sie `stream`.

aktivieren, entweder JSON oder SSE zurück. Diese Seite gruppiert die Anleitungen nach Endpunkt (`/v1/chat/completions`, `/v1/messages`, `/v1/responses`, `/v1/models`, `/v1/embeddings`, `/v1/systemone`) und schließt mit einem gemeinsamen Abschnitt zu Unsloths integrierten **serverseitigen Tools**, die mit allen Chat-Endpunkten funktionieren.

{% hint style="info" %}
Wenn Sie nicht sicher sind, welche URL, welchen Schlüssel oder Modellnamen Sie verwenden sollen, lesen Sie zuerst die API-Übersicht. Sie führt Sie durch das Starten von Unsloth, das Laden eines Modells und das Erstellen eines `sk-unsloth-…` Schlüssels.
{% endhint %}

### 🔑 Authentifizierung

Jede Anfrage benötigt einen `Authorization` -Header:

```
Authorization: Bearer sk-unsloth-xxxxxxxxxxxx
```

Damit Schlüssel nicht im Shell-Verlauf landen, exportieren Sie den Schlüssel einmal und verwenden Sie die Umgebungsvariable:

```bash
export UNSLOTH_STUDIO_AUTH_TOKEN=sk-unsloth-xxxxxxxxxxxx
```

Der Übersichtlichkeit halber verwenden die folgenden Beispiele den Schlüssel direkt als `sk-unsloth-xxxxxxxxxxxx` In der Praxis ersetzen Sie ihn durch `$UNSLOTH_STUDIO_AUTH_TOKEN`.

### 📋 Geladene Modelle auflisten

```bash
curl http://localhost:8888/v1/models \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx"
```

Antwort:

```json
{
  "object": "list",
  "data": [
    {"id": "unsloth/gemma-3-27b-it-GGUF", "object": "model", "owned_by": "local"}
  ]
}
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FgVC1VPkCkUQBVg0HScEc%2FScreenshot%202026-04-22%20at%203.06.57%E2%80%AFAM.png?alt=media&amp;token=6f77cc78-bd0e-4141-b555-b232df1036dc" alt=""><figcaption></figcaption></figure>

Verwenden Sie das Feld `id` immer dann, wenn eine Anfrage einen `"model"` -Wert erfordert (oder wenn ein Client wie opencode nach einer **Modell-ID**).

### 💬 Chat-Completions (`/v1/chat/completions`)

Das Chat-Completions-Dialekt von OpenAI. Bietet die umfassendste Kompatibilität. Funktioniert mit dem OpenAI SDK, opencode, Cursor, Continue, Cline, Open WebUI, SillyTavern und den meisten OpenAI-kompatiblen Tools.

#### Einfache Anfrage

```bash
curl http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "default",
    "messages": [{"role": "user", "content": "Hello"}]
  }'
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fvy9TyeJZljKrMJAath0L%2FScreenshot%202026-04-22%20at%203.40.35%E2%80%AFAM.png?alt=media&amp;token=98f8d622-83c0-4f55-aa37-d3571f0a38cd" alt=""><figcaption></figcaption></figure>

#### Streaming

Hinzufügen `"stream": true` und die Antwort auf Server-Sent Events (`text/event-stream`) umgestellt wird. Weise `curl` an, mit `--no-buffer` (`-N`):

```bash
curl -N http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-local",
    "messages": [{"role": "user", "content": "Write a haiku about locally-run LLMs."}],
    "stream": true
  }'
```

Jede Zeile der Antwort sieht so aus: `data: {"choices":[{"delta":{"content":"..."}}]}`, und endet mit `data: [DONE]`.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FsazSu4RpyiEa6HeamYbj%2FScreenshot%202026-04-22%20at%203.42.05%E2%80%AFAM.png?alt=media&amp;token=f62cf129-74cd-4e8e-986a-1755eeb0e048" alt=""><figcaption></figcaption></figure>

#### Bilder (Vision)

Füge ein Bild als `image_url` Inhaltsteil in der Benutzernachricht hinzu. Die URL kann eine HTTPS-URL oder eine Base64- `data:` URI sein:

```bash
# Lokale Datei als Base64 einbetten (der Kürze halber gekürzt)
IMG=$(base64 -w 0 test.jpg)

cat > /tmp/request.json <<EOF
{
  "model":"default",
  "messages":[{"role":"user","content":[
    {"type":"text","text":"Describe the image."},
    {"type":"image_url","image_url":{"url":"data:image/jpeg;base64,$IMG"}}
  ]}],
  "max_tokens":200,
  "stream":false
}
EOF

curl http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d @/tmp/request.json
```

{% hint style="info" %}
Das geladene Modell muss multimodal sein. Wenn du ein reines Textmodell lädst, ist die Anfrage zwar strukturell erfolgreich, aber das Modell verarbeitet das Bild nicht.
{% endhint %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F9yO7ersnyaIj3X8UkD5q%2FScreenshot%202026-04-22%20at%203.59.30%E2%80%AFAM.png?alt=media&amp;token=9e0af9e5-d565-4acd-8b4a-020c02d74cd8" alt=""><figcaption></figcaption></figure>

#### Funktionsaufrufe (OpenAI-Tools)

Übergib OpenAI-kompatible `tools` und (optional) `tool_choice`. Dein Client führt jeden Tool-Aufruf aus und gibt das Ergebnis im nächsten Gesprächsschritt zurück.

```bash
curl http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model":"default",
    "messages":[{"role":"user","content":"What is the weather in Paris?"}],
    "tools":[{
      "type":"function",
      "function":{
        "name":"get_weather",
        "description":"Get current weather for a city.",
        "parameters":{
          "type":"object",
          "properties":{"city":{"type":"string"}},
          "required":["city"]
        }
      }
    }],
    "tool_choice":"required"
  }' | jq '.choices[0].message, .usage'
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F39CDJk0Z1WhG5JyaJIfV%2Ftests_codex_pr_2.png?alt=media&amp;token=c3f01286-7dc9-47dd-b7f9-9ee8c2d3cb2f" alt=""><figcaption></figcaption></figure>

### 📨 Anthropic Messages (`/v1/messages`)

Das Anthropic-kompatible Dialektformat von Unsloth, das von Claude Code, dem Anthropic SDK, OpenClaw und allen Clients verwendet wird, die die Messages API unterstützen.

#### Einfache Anfrage

```bash
curl http://localhost:8888/v1/messages \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "default",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Hello"}]
  }'
```

{% hint style="warning" %}
`max_tokens` ist erforderlich bei `/v1/messages` (bei `/v1/chat/completions`).
{% endhint %}

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FOz7xeC4dRnDjO5GDAsmC%2FScreenshot%202026-04-22%20at%204.01.52%E2%80%AFAM.png?alt=media&amp;token=b7025ce1-e3a8-46ad-91fa-e87b96a22d6b" alt=""><figcaption></figcaption></figure>

#### Streaming

```bash
ist es optional)
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-local",
    "max_tokens": 1024,
    curl -N http://localhost:8888/v1/messages \
    "stream": true
  }'
```

"messages": \[{"role": "user", "content": "Explain LoRA in two sentences."}], `Ereignisse entsprechen dem SSE-Format von Anthropic:`, `message_start`, `content_block_start`, `content_block_delta`, `content_block_stop`, `message_delta`message\_stop `, sowie Unsloths benutzerdefiniertes` tool\_result-Ereignis für serverseitige Tool-Ausgaben.

#### Bilder (Vision)

Anthropic-artige Bildinhalte verwenden einen `source` -Block mit Base64-Daten:

```bash
IMG=$(base64 -w 0 test.jpg)

cat > /tmp/request.json <<EOF
{
  "messages":[{"role":"user","content":[
    {"type":"text","text":"Describe the image."},
    {"type":"image","source":{"type":"base64","media_type":"image/jpeg","data":"$IMG"}}
  ]}],
  "max_tokens":200,
  "stream":true
}
EOF

curl -s http://localhost/v1/messages \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxx" \
  -H "Content-Type: application/json" \
  -d @/tmp/request.json
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FMkzYMtkw9dt0V7cbqduU%2FScreenshot%202026-04-22%20at%204.03.28%E2%80%AFAM.png?alt=media&amp;token=de854c5a-b399-4736-83bb-23ffe26981e2" alt=""><figcaption></figcaption></figure>

#### Tool-Aufrufe (Anthropic-Tools)

```bash
curl http://localhost:8888/v1/messages \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-local",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Whats the weather in Tokyo?"}],
    "tools": [
      {
        "name": "get_weather",
        "description": "Get the current weather for a city",
        "input_schema": {
          "type": "object",
          "properties": {
            "city": {"type": "string"}
          },
          "required": ["city"]
        }
      }
    ],
    "tool_choice": {"type": "auto"}
  }'
```

`tool_choice` Werte werden wie folgt dem OpenAI-Dialekt zugeordnet: Anthropic `auto` → OpenAI `auto`, Anthropic `any` → OpenAI `required`, Anthropic `{type: "tool", name: "x"}` → OpenAI `{type: "function", function: {name: "x"}}`, Anthropic `none` → OpenAI `none`.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fqb37JN1ffgBFBKyd1uWD%2FScreenshot%202026-04-22%20at%204.07.43%E2%80%AFAM.png?alt=media&amp;token=1fb7ec5d-8326-4e9f-b752-2d5d7e830a39" alt=""><figcaption></figcaption></figure>

### 🧬 Responses (`/v1/responses`)

Unsloth unterstützt auch die neuere **OpenAI Responses API**, das Protokoll, auf das Codex und andere aktuelle OpenAI-Clients umgestiegen sind.

```bash
curl http://localhost:8888/v1/responses \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-local",
    "input": "Write a one-sentence greeting."
  }'
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FhmyMSCTgdD1NYiLUdYNZ%2Fopenai_responses.png?alt=media&amp;token=dd56bd52-71db-46f3-8f6c-1499df8e443c" alt=""><figcaption></figcaption></figure>

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FZ3MEH4vV2RjxhLe0DsWJ%2Fresponses_function_calling.png?alt=media&amp;token=a8637d5a-51d2-47f5-9658-add9cdb757e3" alt=""><figcaption></figcaption></figure>

Fügen Sie für Streaming `"stream": true` hinzu und verwenden Sie `curl -N`. Responses-Streams verwenden benannte Ereignisse wie `response.output_text.delta`, statt Chat-Completions-Chunks.

Senden Sie bei jeder Anfrage den vollständigen Gesprächsverlauf in `input` mit. Unsloth unterstützt `previous_response_id` oder `conversation` für einen serverseitig verwalteten Verlauf nicht.

#### Embeddings (`/v1/embeddings`)

Erzeugen Sie mithilfe eines geladenen Embedding-GGUF oder des konfigurierten Embedding-Modells von Unsloth Embedding-Vektoren aus Text.

Mit `"model": "default"`verwendet Unsloth das verfügbare residente Embedding-GGUF, andernfalls sein konfiguriertes Embedding-Modell.

```bash
curl http://localhost:8888/v1/embeddings \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "default",
    "input": [
      "Unsloth runs local models.",
      "Generate a vector for each text."
    ],
    "encoding_format": "float"
  }'
```

Die Antwort enthält ein `data` -Array mit einem `embedding` -Vektor und einem `index` für jede Eingabe. Verwenden Sie aus Gründen der Portabilität Texteingaben; die Unterstützung für Token-Array-Eingaben hängt vom Embedding-Backend ab.

#### Decision API (`/v1/systemone`)

Aktivieren Sie die **Decision API** in **Einstellungen → API** und wählen Sie zuerst ein Entscheidungsmodell aus. Der Endpunkt gibt `404` zurück, wenn die Decision API deaktiviert ist.

Anfragen enthalten `state` und benannte `questions`. Unterstützte Fragetypen sind:

* `noul`: eine Ja/Nein-Entscheidung.
* `choice`: eine Entscheidung zwischen benannten Optionen, die in `criteria`.
* `score`: eine Bewertung anhand geordneter Kriterienebenen, die in `criteria`.

Verwenden Sie `"model": "default"` um das konfigurierte Entscheidungsmodell auszuwählen.

```bash
curl http://localhost:8888/v1/systemone \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "default",
    "state": "Der Kunde sagt, dass seine Bestellung beschädigt angekommen ist, und bittet um eine Rückerstattung.",
    "questions": {
      "refund_requested": {
        "type": "noul",
        "instructions": "Bittet der Kunde um eine Rückerstattung?"
      }
    }
  }'
```

So rufen Sie die verfügbaren Entscheidungsmodelle ab:

```bash
curl "http://localhost:8888/v1/models?output_modalities=decisions" \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx"
```

Ersetzen Sie `8888` durch den Port Ihres Unsloth-Servers und den Beispiel-API-Schlüssel durch Ihren eigenen.

### 🧰 Unsloth-Tools auf dem Server (Kurzform)

Zusätzlich zum clientseitigen Function Calling kann Unsloth **Python**, **Terminalbefehle** (Shell-Befehle) und **Websuche** auf dem Server ausführen und die Ergebnisse als benutzerdefinierte `tool_result` Ereignisse zurückstreamen. Diese Funktion lässt Unsloth sofort wie einen „echten“ Agenten wirken – ganz ohne Tool-Aufrufe über Ihren Client hin- und herzuschicken.

Aktivieren Sie die Funktion, indem Sie diese zusätzlichen Felder an **entweder** `/v1/chat/completions` oder `/v1/messages`:

| Feld              | Typ             | Hinweise                                                                                    |
| ----------------- | --------------- | ------------------------------------------------------------------------------------------- |
| `enable_thinking` | `boolean`       | `false` um das Denkverhalten zu deaktivieren. `true` standardmäßig                          |
| `enable_tools`    | `boolean`       | `true` um die serverseitige Tool-Ausführung zu aktivieren.                                  |
| `enabled_tools`   | `array<string>` | Welche Tools das Modell aufrufen kann. Unterstützt `python`, `terminal`, `web_search`.      |
| `session_id`      | `string`        | Optional. Speichert den Tool-Zustand (z. B. den Python-Kernel) über mehrere Aufrufe hinweg. |

#### Denkmodus

Der Denkmodus ist standardmäßig aktiviert.&#x20;

```bash
curl http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "default",
    "messages": [{"role": "user", "content": "summarize quantum tunneling in one sentence"}],
    "stream": false
  }'
```

Das Modell denkt nach, bevor es eine Antwort gibt.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F4XHr9KJhzpFEibCGEuHF%2FScreenshot%202026-04-22%20at%2012.22.46%E2%80%AFPM.png?alt=media&amp;token=15fa68ae-0ca5-464f-af16-25cfabc84c33" alt=""><figcaption></figcaption></figure>

Um das Denkverhalten zu deaktivieren, übergeben Sie `enable_thinking: false` in Ihrer Anfrage. Das Modell gibt eine Antwort, ohne vorher nachzudenken.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FKQR2nh8sb5G1zUc7YSs9%2FScreenshot%202026-04-22%20at%2012.25.47%E2%80%AFPM.png?alt=media&amp;token=4646a17e-2217-4f00-9e39-5362f989126f" alt=""><figcaption></figcaption></figure>

#### Python-Ausführung

```bash
curl http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-local",
    "messages": [{"role": "user", "content": "What is 123 * 456? Use code to compute it."}],
    "stream": false,
    "enable_tools": true,
    "enabled_tools": ["python"],
    "session_id": "my-session"
  }'
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FVGbYtwBfSoqgZov5ivMA%2FScreenshot%202026-04-22%20at%204.16.13%E2%80%AFAM.png?alt=media&amp;token=28b83469-24fb-412d-9489-a0c6b92dd8b5" alt=""><figcaption></figcaption></figure>

#### Websuche + Python (Streaming)

```bash
curl http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer sk-unsloth-xxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-local",
    "messages": [{"role": "user", "content": "Search for Python 3.13 features"}],
    "stream": true,
    "enable_tools": true,
    "enabled_tools": ["web_search", "python"],
    "session_id": "my-session"
  }'
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FzSFyzwXtJ0Hgvqq7gZcV%2FScreenshot%202026-04-22%20at%204.25.13%E2%80%AFAM.png?alt=media&amp;token=a8fc5908-cb11-4ec9-85c6-77a6b5c2e205" alt=""><figcaption></figcaption></figure>

#### An `/v1/messages`

Dieselbe Kurzschreibweise funktioniert auch mit dem Anthropic-Messages-Endpunkt:

```bash
curl http://localhost:8888/v1/messages \
  -H "Authorization: Bearer sk-unsloth-xxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-local",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Search for Python 3.13 features"}],
    "stream": true,
    "enable_tools": true,
    "enabled_tools": ["web_search", "python"],
    "session_id": "my-session"
  }'
```

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FPpJxE60f2J59T5o85tQ1%2FScreenshot%202026-04-22%20at%204.28.43%E2%80%AFAM.png?alt=media&amp;token=870d74cb-dd8e-42c1-adeb-287807b22e16" alt=""><figcaption></figcaption></figure>

Unsloth streamt eigene `tool_result` SSE-Ereignisse zusätzlich zu den standardmäßigen Anthropic-/OpenAI-Ereignistypen. Das Modell sieht die Ausgabe jedes Tools in seinem nächsten Zug.

### ❔ Fehlerbehebung

**`401 Unauthorized`** **-** Der `Authorization` -Header fehlt oder der Schlüssel ist falsch. Überprüfen Sie Folgendes: `Authorization: Bearer sk-unsloth-…`.

**`curl` hängt bei Streaming-Anfragen –** Fügen Sie `-N` (wie `--no-buffer`). Ohne diese Option `curl` wird der SSE-Stream gepuffert, und Sie sehen erst am Ende etwas.

**Die Base64-Kodierung unterscheidet sich je nach Betriebssystem** **-** Unter Linux `base64` fügt standardmäßig Zeilenumbrüche ein, unter macOS / BSD nicht. Verwenden Sie `base64 -w 0` unter Linux, `base64` unter macOS oder leiten Sie die Ausgabe durch `tr -d '\n'`.

**JSON-Escaping in Shells** **-** Heredocs (`-d @file.json`) sind sauberer als Inline-Zeichenfolgen, sobald der Inhalt komplexer wird. Beispiel: `curl ... -d @body.json`.

**`max_tokens` verursacht Fehler bei `/v1/messages`** **-** Das Anthropic-Dialektformat erfordert diesen Parameter. Fügen Sie `"max_tokens": 1024` hinzu (oder einen beliebigen gewünschten Grenzwert).

Informationen zu Problemen auf Endpunktebene (Modell wird nicht geladen, Verbindung wird getrennt, falscher Port) finden Sie auf der Seite zur API-Übersicht.

### Optional: Server-Standardeinstellungen anpassen

Sie können das Standardverhalten beim Starten des Servers mit `unsloth run`.

```bash
# Server mit benutzerdefinierten Standardeinstellungen starten
unsloth run \
  --model unsloth/Qwen3-1.7B-GGUF \
  --reasoning off \
  --temp 0.6 \
  -p 8888
```

Verwenden Sie `--reasoning off` , um das Denken zu deaktivieren, oder `--reasoning on` , um es für Modelle zu aktivieren, die Reasoning unterstützen.

```bash
# API im lokalen Netzwerk verfügbar machen
unsloth run \
  --model unsloth/Qwen3-1.7B-GGUF \
  -H 0.0.0.0 \
  -p 8888
```

Dadurch wird der Server unter `0.0.0.0:8888`gestartet, sodass andere Geräte in Ihrem lokalen Netzwerk eine Verbindung herstellen können.

#### Einstellungen pro Anfrage überschreiben

Sie können die Generierungseinstellungen auch direkt in jeder API-Anfrage überschreiben.

```bash
curl http://localhost:8888/v1/chat/completions \
  -H "Authorization: Bearer $UNSLOTH_STUDIO_AUTH_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "default",
    "messages": [
      {
        "role": "user",
        "content": "Schreibe ein kurzes Gedicht über lokale KI."
      }
    ],
    "temperature": 0.8,
    "top_p": 0.9,
    "max_tokens": 512
  }'
```

Anfragebezogene Werte wie `temperature`, `top_p`, `max_tokens`, und `stream` überschreiben für diese Anfrage die Serverstandards.


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/integrationen/curl-and-http-mit-unsloth-verbinden.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
