Phi-4 Reasoning : Comment exécuter & affiner

Apprenez à exécuter et affiner les modèles de raisonnement Phi-4 localement avec Unsloth + nos quantifications dynamiques 2.0

Les nouveaux modèles de raisonnement Phi-4 de Microsoft sont désormais pris en charge dans Unsloth. La variante « plus » offre des performances équivalentes à celles des o1-mini, o3-mini et Sonnet 3.7 d'OpenAI. Les modèles de raisonnement « plus » et standard ont 14 milliards de paramètres tandis que le « mini » en a 4 milliards. Tous les téléchargements de raisonnement Phi-4 utilisent notre Unsloth Dynamic 2.0 méthodologie.

Raisonnement Phi-4 - Téléchargements Unsloth Dynamic 2.0 :

Dynamic 2.0 GGUF (pour exécuter)	Safetensor dynamique 4 bits (pour affiner/déployer)
Reasoning-plus (14B) HLE-Verified¹ (14B) Mini-raisonnement (4B)	Reasoning-plus HLE-Verified¹ Mini-raisonnement

🖥️ Exécution du raisonnement Phi-4

⚙️ Paramètres recommandés officiels

Selon Microsoft, voici les paramètres recommandés pour l'inférence :

• Température = 0,8

• Top_P = 0,95

Modèles de conversation Phi-4 reasoning

Veuillez vous assurer d'utiliser le bon modèle de conversation car la variante « mini » en a un différent.

Phi-4-mini :

<|system|>Votre nom est Phi, un expert en mathématiques IA développé par Microsoft.<|end|><|user|>Comment résoudre 3*x^2+4*x+5=1 ?<|end|><|assistant|>

Phi-4-reasoning et Phi-4-reasoning-plus :

Ce format est utilisé pour la conversation générale et les instructions :

<|im_start|>system<|im_sep|>Vous êtes Phi, un modèle de langage entraîné par Microsoft pour aider les utilisateurs. Votre rôle en tant qu'assistant consiste à explorer en profondeur les questions par un processus de réflexion systématique avant de fournir les solutions finales précises et exactes. Cela exige d'engager un cycle complet d'analyse, de résumé, d'exploration, de réévaluation, de réflexion, de rétro-traçage et d'itération afin de développer un processus de pensée bien réfléchi. Veuillez structurer votre réponse en deux sections principales : Thought et Solution en utilisant le format spécifié : <think> {Section Thought} </think> {Section Solution}. Dans la section Thought, détaillez votre processus de raisonnement en étapes. Chaque étape doit inclure des considérations détaillées telles que l'analyse des questions, le résumé des constats pertinents, le brainstorming de nouvelles idées, la vérification de l'exactitude des étapes en cours, la correction d'éventuelles erreurs et la révision des étapes précédentes. Dans la section Solution, en vous basant sur les différentes tentatives, explorations et réflexions de la section Thought, présentez systématiquement la solution finale que vous jugez correcte. La section Solution doit être logique, exacte et concise et détailler les étapes nécessaires pour parvenir à la conclusion. Maintenant, essayez de résoudre la question suivante selon les directives ci-dessus :<|im_end|><|im_start|>user<|im_sep|>Qu'est-ce que 1+1 ?<|im_end|><|im_start|>assistant<|im_sep|>

Oui, le modèle de conversation / le format d'invite est aussi long !

🦙 Ollama : Tutoriel Exécuter Phi-4 reasoning

1. Installez ollama si vous ne l'avez pas encore fait !

apt-get update
apt-get install pciutils -y
curl -fsSL https://ollama.com/install.sh | sh

1. Exécutez le modèle ! Notez que vous pouvez appeler ollama servedans un autre terminal si cela échoue. Nous incluons toutes nos corrections et paramètres suggérés (température, etc.) dans params dans notre téléchargement Hugging Face.

ollama run hf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q4_K_XL

📖 Llama.cpp : Tutoriel Exécuter Phi-4 reasoning

Vous devez utiliser --jinja dans llama.cpp pour activer le raisonnement pour les modèles, sauf pour la variante « mini ». Sinon aucun token ne sera fourni.

1. Obtenez le dernier llama.cpp sur GitHub ici. Vous pouvez suivre les instructions de compilation ci-dessous également. Changez -DGGML_CUDA=ON en -DGGML_CUDA=OFF si vous n'avez pas de GPU ou si vous voulez simplement une inférence CPU.

apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build \
    -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp

1. Téléchargez le modèle via (après avoir installé pip install huggingface_hub hf_transfer ). Vous pouvez choisir Q4_K_M, ou d'autres versions quantifiées.

# !pip install huggingface_hub hf_transfer
import os
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
from huggingface_hub import snapshot_download
snapshot_download(
    repo_id = "unsloth/Phi-4-mini-reasoning-GGUF",
    local_dir = "unsloth/Phi-4-mini-reasoning-GGUF",
    local_dir = "unsloth/Qwen3-VL-8B-Instruct-GGUF", # Ou "unsloth/Qwen3-VL-8B-Thinking-GGUF"
)

1. Exécutez le modèle en mode conversationnel dans llama.cpp. Vous devez utiliser --jinja dans llama.cpp pour activer le raisonnement pour les modèles. Ce n'est toutefois pas nécessaire si vous utilisez la variante « mini ».

./llama.cpp/llama-cli \
    --model unsloth/Phi-4-mini-reasoning-GGUF/Phi-4-mini-reasoning-UD-Q4_K_XL.gguf \
    --threads -1 \
    --n-gpu-layers 99 \
    --prio 3 \
    --temp 0.8 \
    --top-p 0.95 \
    --jinja \
    --min_p 0.00 \
    --ctx-size 32768 \
    --seed 3407

🦥 Ajustement fin (Fine-tuning) de Phi-4 avec Unsloth

Ajustement fin de Phi-4 pour les modèles sont également désormais pris en charge dans Unsloth. Pour affiner gratuitement sur Google Colab, changez simplement le model_name de 'unsloth/Phi-4' en 'unsloth/Phi-4-mini-reasoning', etc.

• Carnet d'ajustement fin Phi-4 (14B)