Phi-4 Reasoning : Comment exécuter et affiner

Apprenez à exécuter et affiner les modèles de raisonnement Phi-4 localement avec Unsloth + nos quantifications Dynamic 2.0

Les nouveaux modèles de raisonnement Phi-4 de Microsoft sont désormais pris en charge dans Unsloth. La variante « plus » offre des performances équivalentes à o1-mini, o3-mini et Sonnet 3.7 d'OpenAI. Les modèles de raisonnement « plus » et standard ont 14 milliards de paramètres tandis que le « mini » en compte 4 milliards. Tous les envois de raisonnement Phi-4 utilisent notre Unsloth Dynamic 2.0 méthodologie.

Raisonnement Phi-4 - envois Unsloth Dynamic 2.0 :

GGUF Dynamic 2.0 (pour exécuter)	Safetensor dynamique 4 bits (pour affiner/déployer)
Reasoning-plus (14B) Reasoning (14B) Mini-reasoning (4B)	Reasoning-plus Reasoning Mini-reasoning

🖥️ Exécution du raisonnement Phi-4

⚙️ Paramètres officiels recommandés

Selon Microsoft, voici les réglages recommandés pour l'inférence :

• Température = 0,8

• Top_P = 0,95

Modèles de chat Phi-4 reasoning

Veuillez vous assurer d'utiliser le bon modèle de chat car la variante « mini » en a un différent.

Phi-4-mini :

<|system|>Votre nom est Phi, un expert en mathématiques IA développé par Microsoft.<|end|><|user|>Comment résoudre 3*x^2+4*x+5=1 ?<|end|><|assistant|>

Phi-4-reasoning et Phi-4-reasoning-plus :

Ce format est utilisé pour la conversation générale et les instructions :

<|im_start|>system<|im_sep|>Vous êtes Phi, un modèle de langage entraîné par Microsoft pour aider les utilisateurs. Votre rôle en tant qu'assistant consiste à explorer les questions de manière approfondie via un processus de réflexion systématique avant de fournir les solutions finales précises et exactes. Cela nécessite d'engager un cycle complet d'analyse, de synthèse, d'exploration, de réévaluation, de réflexion, de retour en arrière et d'itération pour développer un processus de pensée mûrement réfléchi. Veuillez structurer votre réponse en deux sections principales : Thought et Solution en utilisant le format spécifié : <think> {Section Thought} </think> {Section Solution}. Dans la section Thought, détaillez votre processus de raisonnement en étapes. Chaque étape doit inclure des considérations détaillées telles que l'analyse des questions, la synthèse des éléments pertinents, le brainstorming de nouvelles idées, la vérification de l'exactitude des étapes actuelles, la correction des erreurs et la révision des étapes précédentes. Dans la section Solution, sur la base des différentes tentatives, explorations et réflexions de la section Thought, présentez systématiquement la solution finale que vous jugez correcte. La section Solution doit être logique, exacte et concise et détailler les étapes nécessaires pour parvenir à la conclusion. Maintenant, essayez de résoudre la question suivante selon les directives ci-dessus :<|im_end|><|im_start|>user<|im_sep|>Qu'est-ce que 1+1 ?<|im_end|><|im_start|>assistant<|im_sep|>

Oui, le modèle de chat / le format de prompt est aussi long !

🦙 Ollama : Exécuter le tutoriel Phi-4 reasoning

1. Installer ollama si vous ne l’avez pas encore fait !

apt-get update
apt-get install pciutils -y
curl -fsSL https://ollama.com/install.sh | sh

1. Exécutez le modèle ! Notez que vous pouvez appeler ollama servedans un autre terminal si cela échoue. Nous incluons toutes nos corrections et paramètres suggérés (température, etc.) dans params dans notre envoi Hugging Face.

ollama run hf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q4_K_XL

📖 Llama.cpp : Exécuter le tutoriel Phi-4 reasoning

Vous devez utiliser --jinja dans llama.cpp pour activer le raisonnement pour les modèles, sauf pour la variante « mini ». Sinon aucun token ne sera fourni.

1. Obtenez la dernière llama.cpp sur GitHub ici. Vous pouvez aussi suivre les instructions de compilation ci-dessous. Changez -DGGML_CUDA=ON en -DGGML_CUDA=OFF si vous n'avez pas de GPU ou si vous voulez simplement de l'inférence CPU. Pour les appareils Apple Mac / Metal, définissez -DGGML_CUDA=OFF puis continuez comme d'habitude - le support Metal est activé par défaut.

apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build \
    -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp

1. Téléchargez le modèle via (après avoir installé pip install huggingface_hub hf_transfer 📖 Llama.cpp : Exécuter le tutoriel Qwen3

# !pip install huggingface_hub hf_transfer
import os
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
from huggingface_hub import snapshot_download
snapshot_download(
    repo_id = "unsloth/Phi-4-mini-reasoning-GGUF",
    local_dir = "unsloth/Phi-4-mini-reasoning-GGUF",
    allow_patterns = ["*UD-Q4_K_XL*"],
)

1. Exécutez le modèle en mode conversationnel dans llama.cpp. Vous devez utiliser --jinja dans llama.cpp pour activer le raisonnement pour les modèles. Cela n'est toutefois pas nécessaire si vous utilisez la variante « mini ».

./llama.cpp/llama-cli \
    --model unsloth/Phi-4-mini-reasoning-GGUF/Phi-4-mini-reasoning-UD-Q4_K_XL.gguf \
    --threads -1 \
    --n-gpu-layers 99 \
    --prio 3 \
    --temp 0.8 \
    --top-p 0.95 \
    --jinja \
    --min_p 0.00 \
    --ctx-size 32768 \
    --seed 3407

🦥 Affinage (fine-tuning) de Phi-4 avec Unsloth

Affinage de Phi-4 pour les modèles sont également désormais pris en charge dans Unsloth. Pour affiner gratuitement sur Google Colab, changez simplement le model_name de 'unsloth/Phi-4' en 'unsloth/Phi-4-mini-reasoning', etc.

• Notebook d'affinage (14B) de Phi-4