> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle/decision-laya.md).
# Entscheidungsmodelle lokal mit Unsloth ausführen und bereitstellen: Laya + Jev API
Stellen Sie Entscheidungsmodelle lokal mit Unsloth bereit und führen Sie sie aus.
Entscheidungsmodelle ausführen und bereitstellen wie **Laya** oder **Clef**, offene Jev-Alternativen, auf deinem lokalen **Mac**, **Windows** und **Linux** Gerät mit [Unsloth](https://github.com/unslothai/unsloth). Entscheidungsmodelle wandeln Texteingaben in strukturierte Entscheidungen um, auf die deine Apps reagieren können – vom Weiterleiten von Support-Tickets und Filtern von E-Mails bis hin zu automatischen Tags und Klassifizierungen.
Du kannst die Unsloth-GUI verwenden, um Laya und Clef über eine TypeSafe-kompatible Jev-API bereitzustellen, sodass bestehende Jev-Integrationen funktionieren, indem du sie auf deinen lokalen Server verweist.
Alle Daten bleiben auf deinem Gerät und **CPU**, **einheitlicher Speicher**, und **GPU** Einrichtungsarten werden alle unterstützt.
Sende dem Entscheidungsmodell Textausschnitte, definiere die Entscheidungen, die du brauchst (Ja/Nein, Auswahlmöglichkeiten oder Werte), und erhalte kalibrierte Wahrscheinlichkeiten zurück.
### 🖥️ Empfohlene Einstellungen
| Modell | Mindestens benötigter RAM | Größe | Am besten für |
| ----------------------------- | ------------------------- | ------ | ----------------------------------------------------------------------------- |
| **Mehrsprachig** (Standard) | 4 GB RAM | 678 MB | Für die meisten Anwendungsfälle. Über 100 Sprachen, 1024-Token-Kontext. |
| **Englisch** | 5 GB RAM | 846 MB | Nur Englisch. Größerer Encoder, 512-Token-Kontext. |
| **Typisierte Entscheidungen** | 5 GB RAM | 846 MB | Nur Englisch. Rechnungen, Sicherheitsvorfälle, Kundenservice, Agenten-Traces. |
CPU ist die Standardeinstellung. Wechsle **Ausführen auf** GPU für schnellere Antworten. Die GPU hält das Modell im Speicher, bis du auf **Entladen** oder Unsloth neu startest. Wenn der GPU der Speicher ausgeht, fällt Laya auf die CPU zurück und antwortet weiter.
### ⚡ Schnellstart
{% stepper %}
{% step %}
#### **Unsloth einrichten**
Der einfachste Einstieg ist das Herunterladen der [Unsloth-Desktop-App](/docs/de/desktop.md). Funktioniert auf [macOS](/docs/de/loslegen/install/mac.md), [Windows](/docs/de/loslegen/install/windows-installation.md), und [Linux](/docs/de/loslegen/install/linux.md).
Unsloth herunterladen
* :apple: [Für macOS herunterladen](https://unsloth.ai/download/mac)
* :windows: [Für Windows herunterladen](https://unsloth.ai/download/windows)
* :linux: [Für Linux herunterladen](https://unsloth.ai/download/linux)
Oder, wenn du lieber manuell installieren möchtest:
macOS, Linux, WSL:
```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```
Windows PowerShell:
```bash
irm https://unsloth.ai/install.ps1 | iex
```
{% endstep %}
{% step %}
#### Laya einrichten
Gehe zu Einstellungen → API → **Decision API** und aktiviere **Anfragen bereitstellen**. Das Standard-Laya-Modell (678 MB) beginnt dann mit dem Herunterladen, nachdem du bestätigt hast, dass du den Download starten möchtest.
Dein API-Schlüssel befindet sich auf derselben Seite unter Zugriffstoken. Oder aktiviere **API-Zugriff ohne Schlüssel** → **Chat und Inferenz** und verzichte auf den Schlüssel auf localhost.
{% endstep %}
{% step %}
#### Sende eine Entscheidungsanfrage
Es ist an der Zeit, eine Entscheidungsanfrage zu senden. In diesem Beispiel klassifizieren wir ein Support-Ticket, erkennen Rückerstattungsanfragen und bewerten die Dringlichkeit.
```bash
curl http://localhost:8888/v1/systemone \
-H "Authorization: Bearer sk-unsloth-YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "laya",
"state": "Hallo, mir wurde die Rechnung für März (#4411) doppelt berechnet. Bitte erstatten Sie die doppelte Belastung noch heute zurück.",
"questions": {
"team": {
"type": "choice",
"instructions": "Welches Team soll sich darum kümmern?",
"criteria": {
"billing": "Rechnungen, Zahlungen, Rückerstattungen",
"technical": "Fehler, Ausfälle, Irrtümer",
"sales": "Preise, neue Tarife",
"other": "alles andere"
}
},
"refund": {"type": "noul", "instructions": "Fordert der Kunde eine Rückerstattung an?"},
"urgency": {"type": "score", "instructions": "Wie dringend ist das?", "criteria": ["nicht dringend", "bald", "heute"]}
}
}'
```
Du erhältst:
```json
{
"model": "laya-multilingual",
"answers": {
"team": {"type": "choice", "choice": "billing", "confidence": 1.0, "probabilities": {"billing": 1.0, "technical": 0.0, "sales": 0.0, "other": 0.0}},
"refund": {"type": "noul", "noul": 0.9794},
"urgency": {"type": "score", "score": 1.9005, "confidence": 0.698, "legend": {"0": "nicht dringend", "1": "bald", "2": "heute"}, "probabilities": {"0": 0.004, "1": 0.0915, "2": 0.9045}}
},
"usage": {"input_tokens": 172, "output_tokens": 0}
}
```
Die erste Anfrage lädt das Modell, was 10 bis 20 Sekunden dauert. Danach dauern Anfragen auf den meisten CPUs deutlich weniger als eine Sekunde.
`state` kann ein String oder beliebiges JSON sein. `model` akzeptiert `laya`, `standardmäßig`, oder `jev-latest` für das Modell, das du in den Einstellungen ausgewählt hast, oder `laya-multilingual`, `laya-english`, `laya-typed-decisions` um nur eines zu nennen.
{% endstep %}
{% endstepper %}
### ❓ Fragetypen
| Typ | Verwende es für | Du erhältst |
| --------- | ------------------------- | ----------------------------------------------------------------- |
| `noul` | Ja oder Nein | Die Wahrscheinlichkeit für Ja, von 0 bis 1 |
| `Auswahl` | Eine Option auswählen | Die wahrscheinlichste Option und eine Wahrscheinlichkeit für jede |
| `Wert` | Bewertung auf einer Skala | Wo der Text auf deiner Skala liegt, gezählt ab 0 |
`noul` bedeutet Ja/Nein. Es gibt die Wahrscheinlichkeit für „Ja“ zurück: `0.98` bedeutet sehr wahrscheinlich, `0.5` bedeutet in beide Richtungen gleich wahrscheinlich.
`Auswahl` und `Wert` ebenfalls zurück `Konfidenz`. Nahe bei `1` bedeutet, dass eine Antwort hervorsticht. Nahe bei `0` bedeutet, dass die Wahrscheinlichkeiten gleichmäßig verteilt sind.
{% columns %}
{% column %}
Um auf eine Auswahl zu reagieren, verwende ihren Wert in `Wahrscheinlichkeiten`, nicht `Konfidenz`. Reiche zum Beispiel nur dann einen Fehlerbericht ein, wenn `technical` über `0.8`. Laya und Jev berechnen die Konfidenz unterschiedlich, also verwende deine Jev-Konfidenzschwellen nicht erneut.
Jede Anfrage unterstützt bis zu **64 Fragen**, mit bis zu **255 Optionen pro Auswahl** und **10 Stufen pro Wert**.
{% endcolumn %}
{% column %}
Live-Packdemo in Echtzeit, angetrieben von lokalem Laya über Unsloths Decision API: Kofferartikel aktualisieren sich, während du tippst und deine Reisepläne änderst
{% endcolumn %}
{% endcolumns %}
### 🔁 Migrieren von Jev
Installiere das SDK mit `pip install typesafe-sdk`, setze zwei Umgebungsvariablen, und dein bestehender Code spricht mit Unsloth:
```bash
export TYPESAFE_BASE_URL=http://localhost:8888
export TYPESAFE_API_KEY=sk-unsloth-YOUR_KEY
```
Das Standardmodell des SDK, `jev-latest`, entspricht dem Modell, das du in den Einstellungen ausgewählt hast.
Zwei Dinge unterscheiden sich von Jev. `Konfidenz` verwendet eine andere Formel, daher lässt sich ein auf Jev abgestimmter Schwellenwert nicht übertragen; Schwellenwert bei `Wahrscheinlichkeiten` stattdessen. Und die Optionen in einer Auswahl teilen sich ein festes Token-Budget, daher werden ab etwa 20 beschriebenen Optionen die Bezeichnungen gekürzt.
---
# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.
## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.
Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:
```
GET https://unsloth.ai/docs/de/modelle/decision-laya.md?ask=&goal=
```
`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.
Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
