> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle/tutorials/phi-4-reasoning-how-to-run-and-fine-tune.md).
# Phi-4 Reasoning: Wie man ausführt und feinabstimmt
Lerne, Phi-4-Reasoning-Modelle lokal mit Unsloth + unseren Dynamic 2.0 Quants auszuführen und feinabzustimmen
Microsofts neue Phi-4-Reasoning-Modelle werden jetzt in Unsloth unterstützt. Die 'plus'-Variante erreicht eine Leistung auf Augenhöhe mit OpenAIs o1-mini, o3-mini und Sonnet 3.7. Die 'plus'- und Standard-Reasoning-Modelle haben 14B Parameter, während das 'mini' 4B Parameter hat.\
\
Alle Phi-4-Reasoning-Uploads verwenden unsere [Unsloth Dynamic 2.0](/docs/de/grundlagen/dynamic-3.0-ggufs.md) Methodik.
#### **Phi-4-Reasoning - Uploads mit Unsloth Dynamic 2.0:**
| Dynamic 2.0 GGUF (zum Ausführen) | Dynamisches 4-Bit-Safetensor-Format (zum Feinabstimmen/Bereitstellen) |
| ----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | ---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| | |
## 🖥️ **Phi-4-Reasoning ausführen**
### :gear: Offiziell empfohlene Einstellungen
Laut Microsoft sind dies die empfohlenen Einstellungen für die Inferenz:
* **Temperatur = 0,8**
* Top\_P = 0.95
### **Chat-Vorlagen für Phi-4-Reasoning**
Bitte stellen Sie sicher, dass Sie die richtige Chat-Vorlage verwenden, da die 'mini'-Variante eine andere hat.
#### **Phi-4-mini:**
{% code overflow="wrap" %}
```
<|system|>Dein Name ist Phi, ein von Microsoft entwickelter KI-Mathematikexperte.<|end|><|user|>Wie löst man 3*x^2+4*x+5=1?<|end|><|assistant|>
```
{% endcode %}
#### **Phi-4-Reasoning und Phi-4-Reasoning-Plus:**
Dieses Format wird für allgemeine Gespräche und Anweisungen verwendet:
{% code overflow="wrap" %}
```
<|im_start|>system<|im_sep|>Du bist Phi, ein von Microsoft trainiertes Sprachmodell, das Nutzern helfen soll. Deine Rolle als Assistent umfasst es, Fragen vor der Bereitstellung der endgültigen präzisen und genauen Lösungen durch einen systematischen Denkprozess gründlich zu untersuchen. Dies erfordert einen umfassenden Zyklus aus Analyse, Zusammenfassung, Erkundung, Neubewertung, Reflexion, Rückverfolgung und Iteration, um einen gut durchdachten Denkprozess zu entwickeln. Bitte strukturiere deine Antwort in zwei Hauptabschnitte: Gedanken und Lösung unter Verwendung des angegebenen Formats: {Gedankenabschnitt} {Lösungsabschnitt}. Beschreibe im Gedankenabschnitt deinen Denkprozess schrittweise. Jeder Schritt sollte detaillierte Überlegungen enthalten, wie etwa das Analysieren von Fragen, das Zusammenfassen relevanter Erkenntnisse, das Entwickeln neuer Ideen, das Überprüfen der Genauigkeit der aktuellen Schritte, das Verfeinern von Fehlern und das erneute Aufgreifen früherer Schritte. Im Lösungsabschnitt präsentiere auf der Grundlage verschiedener Versuche, Erkundungen und Reflexionen aus dem Gedankenabschnitt systematisch die endgültige Lösung, die du für korrekt hältst. Der Lösungsabschnitt sollte logisch, präzise und knapp sein und die notwendigen Schritte detailliert beschreiben, die erforderlich sind, um zur Schlussfolgerung zu gelangen. Versuche nun, die folgende Frage anhand der obigen Richtlinien zu lösen:<|im_end|><|im_start|>user<|im_sep|>Was ist 1+1?<|im_end|><|im_start|>assistant<|im_sep|>
```
{% endcode %}
{% hint style="info" %}
Ja, das Chat-Vorlagen-/Prompt-Format ist so lang!
{% endhint %}
### 🦙 Ollama: Phi-4-Reasoning-Tutorial ausführen
1. Installieren `ollama` falls du das noch nicht getan hast!
```bash
apt-get update
apt-get install pciutils -y
curl -fsSL https://ollama.com/install.sh | sh
```
2. Führen Sie das Modell aus! Beachten Sie, dass Sie `ollama serve`in einem anderen Terminal, falls es fehlschlägt. Wir fügen alle unsere Korrekturen und vorgeschlagenen Parameter (Temperatur usw.) in `params` in unseren Hugging-Face-Upload ein.
```bash
ollama run hf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q4_K_XL
```
### 📖 Llama.cpp: Phi-4-Reasoning-Tutorial ausführen
{% hint style="warning" %}
Sie müssen `--jinja` in llama.cpp, um das Reasoning für die Modelle zu aktivieren, außer für die 'mini'-Variante. Andernfalls wird kein Token bereitgestellt.
{% endhint %}
1. Holen Sie sich die neueste `llama.cpp` auf [hier auf GitHub](https://github.com/ggml-org/llama.cpp). Sie können auch die folgenden Build-Anweisungen befolgen. Ändern Sie `-DGGML_CUDA=ON` zu `-DGGML_CUDA=OFF` wenn Sie keine GPU haben oder nur CPU-Inferenz möchten. **Für Apple-Mac-/Metal-Geräte**, setzen Sie `-DGGML_CUDA=OFF` und fahren Sie dann wie gewohnt fort – Metal-Unterstützung ist standardmäßig aktiviert.
```bash
apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build \\
-DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp
```
2. Lade das Modell über (nach der Installation von `pip install huggingface_hub hf_transfer` ). Sie können Q4\_K\_M oder andere quantisierte Versionen wählen.
```python
# !pip install huggingface_hub hf_transfer
import os
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
from huggingface_hub import snapshot_download
snapshot_download(
repo_id = "unsloth/Phi-4-mini-reasoning-GGUF",
local_dir = "unsloth/Phi-4-mini-reasoning-GGUF",
allow_patterns = ["*UD-Q4_K_XL*"],
)
```
3. Führen Sie das Modell im Konversationsmodus in llama.cpp aus. Sie müssen `--jinja` in llama.cpp, um das Reasoning für die Modelle zu aktivieren. Dies ist jedoch nicht nötig, wenn Sie die 'mini'-Variante verwenden.
```bash
./llama.cpp/llama-cli \\
--model unsloth/Phi-4-mini-reasoning-GGUF/Phi-4-mini-reasoning-UD-Q4_K_XL.gguf \\
--threads -1 \\
--n-gpu-layers 99 \\
--prio 3 \\
--temp 0.8 \
--top-p 0.95 \\
--jinja \
--min-p 0.00 \\
--ctx-size 32768 \\
--seed 3407
```
## 🦥 Phi-4 mit Unsloth feinabstimmen
[Phi-4-Feinabstimmung](https://unsloth.ai/blog/phi4) für die Modelle werden jetzt auch in Unsloth unterstützt. Um kostenlos auf Google Colab feinabzustimmen, ändern Sie einfach die `model_name` von 'unsloth/Phi-4' zu 'unsloth/Phi-4-mini-reasoning' usw.
* [Phi-4 (14B) Feinabstimmungs-Notebook](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Phi_4-Conversational.ipynb)
---
# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.
## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.
Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:
```
GET https://unsloth.ai/docs/de/modelle/tutorials/phi-4-reasoning-how-to-run-and-fine-tune.md?ask=&goal=
```
`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.
Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.