Phi-4 Reasoning：実行とファインチューニング

Unsloth と独自の Dynamic 2.0 量子化で Phi-4 推論モデルをローカルに実行・ファインチューニングする方法を学びましょう

Microsoft の新しい Phi-4 推論モデルが、現在 Unsloth でサポートされています。「plus」バリアントは OpenAI の o1-mini、o3-mini、Sonnet 3.7 と同等の性能を発揮します。「plus」と標準の推論モデルは 14B パラメータで、「mini」は 4B パラメータです。 すべての Phi-4 推論アップロードでは、私たちの Unsloth Dynamic 2.0 の方法論を使用しています。

Phi-4 推論 - Unsloth Dynamic 2.0 アップロード：

Dynamic 2.0 GGUF（実行用）	Dynamic 4-bit Safetensor（finetune/deploy 用）
Reasoning-plus (14B) Reasoning (14B) Mini-reasoning (4B)	Reasoning-plus Reasoning Mini-reasoning

🖥️ Phi-4 推論の実行

⚙️ 公式推奨設定

Microsoft によると、推論時の推奨設定は次のとおりです：

• Temperature = 0.8

• Top_P = 0.95

Phi-4 推論のチャットテンプレート

「mini」バリアントは別のテンプレートを使用するため、正しいチャットテンプレートを使用していることを確認してください。

Phi-4-mini:

<|system|>あなたの名前は Phi です。Microsoft が開発した AI 数学エキスパートです。<|end|><|user|>3*x^2+4*x+5=1 をどう解きますか？<|end|><|assistant|>

Phi-4-reasoning および Phi-4-reasoning-plus:

この形式は一般的な会話と指示に使用されます：

<|im_start|>system<|im_sep|>あなたは Phi です。Microsoft によって訓練された言語モデルで、ユーザーを支援します。アシスタントとしてのあなたの役割は、最終的に正確で精密な解答を提示する前に、体系的な思考プロセスを通じて質問を徹底的に検討することです。これには、十分に考え抜かれた思考プロセスを विकसितするために、分析、要約、探索、再評価、反省、逆追跡、反復の包括的なサイクルに取り組むことが必要です。応答は、指定された形式 <think> {Thought section} </think> {Solution section} を使って、Thought と Solution の 2 つの主要セクションに分けて構成してください。Thought セクションでは、推論プロセスを段階的に詳述してください。各ステップには、質問の分析、関連する発見の要約、新しいアイデアのブレインストーミング、現在のステップの正確さの検証、誤りの修正、以前のステップの見直しなどの詳細な検討を含めてください。Solution セクションでは、Thought セクションでのさまざまな試行、探索、考察に基づいて、正しいと判断した最終解答を体系的に提示してください。Solution セクションは論理的で正確、簡潔であり、結論に至るために必要な手順を詳述してください。それでは、上記のガイドラインに従って次の質問を解いてください：<|im_end|><|im_start|>user<|im_sep|>1+1 は何ですか？<|im_end|><|im_start|>assistant<|im_sep|>

はい、チャットテンプレート／プロンプト形式はこんなに長いです！

🦙 Ollama: Phi-4 推論チュートリアルを実行

1. インストール ollama まだなら、

apt-get update
apt-get install pciutils -y
curl -fsSL https://ollama.com/install.sh | sh

1. モデルを実行します！失敗した場合は ollama serve失敗した場合は、別のターミナルで実行してください。修正内容や推奨パラメータ（temperature など）はすべて params Hugging Face へのアップロードに含めています。

ollama run hf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q4_K_XL

📖 Llama.cpp: Phi-4 推論チュートリアルを実行

使用する必要があります --jinja llama.cpp でモデルの推論を有効にしてください。ただし、「mini」バリアントは例外です。そうでない場合、トークンは提供されません。

1. 最新の llama.cpp を GitHub こちらから取得してください。以下のビルド手順に従うこともできます。 -DGGML_CUDA=ON を -DGGML_CUDA=OFF に変更してください。GPU がない場合、または CPU 推論だけを使いたい場合です。 Apple Mac / Metal デバイスの場合、次を設定して -DGGML_CUDA=OFF その後は通常どおり続けてください - Metal サポートは既定で有効です。

apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build \\
    -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp

1. モデルのダウンロード（ pip install huggingface_hub hf_transfer ）。Q4_K_M やその他の量子化版を選択できます。

# !pip install huggingface_hub hf_transfer
import os
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
from huggingface_hub import snapshot_download
snapshot_download(
    repo_id = "unsloth/Phi-4-mini-reasoning-GGUF",
    local_dir = "unsloth/Phi-4-mini-reasoning-GGUF",
    allow_patterns = ["*UD-Q4_K_XL*"],
)

1. llama.cpp でモデルを会話モードで実行します。必ず --jinja llama.cpp でモデルの推論を有効にしてください。ただし、「mini」バリアントを使用している場合は必要ありません。

./llama.cpp/llama-cli \\
    --model unsloth/Phi-4-mini-reasoning-GGUF/Phi-4-mini-reasoning-UD-Q4_K_XL.gguf \
    --threads -1 \
    --n-gpu-layers 99 \\
    --prio 3 \\
    --temp 0.8 \
    --top-p 0.95 \
    --jinja \
    --min-p 0.00 \\
    --ctx-size 32768 \
    --seed 3407

🦥 Unsloth で Phi-4 をファインチューニング

Phi-4 のファインチューニング のモデルも、現在 Unsloth でサポートされています。Google Colab で無料でファインチューニングするには、 model_name の 'unsloth/Phi-4' を 'unsloth/Phi-4-mini-reasoning' などに変更するだけです。

• Phi-4 (14B) ファインチューニングノートブック