Phi-4 Reasoning: 実行とファインチューニングの方法
UnslothとDynamic 2.0量子化を使って、Phi-4の推論モデルをローカルで実行・ファインチューニングする方法を学びましょう
Microsoft の新しい Phi-4 推論モデルが Unsloth でサポートされるようになりました。「plus」版は OpenAI の o1-mini、o3-mini、Sonnet 3.7 に匹敵する性能です。「plus」と標準の推論モデルは 14B パラメータで、「mini」は 4B パラメータです。 すべての Phi-4 推論のアップロードでは、私たちの Unsloth Dynamic 2.0 手法。
Phi-4 推論 - Unsloth Dynamic 2.0 アップロード:
Reasoning-plus (14B)
推論 (14B)
ミニ推論 (4B)
🖥️ Phi-4 推論の実行
⚙️ 公式推奨設定
Microsoft によると、推論に推奨される設定は次のとおりです:
温度 = 0.8
Top_P = 0.95
Phi-4 推論のチャットテンプレート
「mini」版は別のテンプレートを使用するため、正しいチャットテンプレートを使用していることを確認してください。
Phi-4-mini:
<|system|>あなたの名前は Phi で、Microsoft によって開発された AI 数学の専門家です。<|end|><|user|>3*x^2+4*x+5=1 をどう解きますか?<|end|><|assistant|>Phi-4-reasoning および Phi-4-reasoning-plus:
この形式は一般的な会話と指示に使用されます:
🦙 Ollama: Phi-4 推論の実行チュートリアル
インストール
ollamaまだの場合は!
モデルを実行してください!必要に応じて
ollama serve失敗した場合は別のターミナルで。私たちの修正内容と推奨パラメータ(temperature など)はすべてparamsHugging Face へのアップロードに含めています。
📖 Llama.cpp: Phi-4 推論の実行チュートリアル
最新の
llama.cppを GitHubこちら。以下のビルド手順に従うこともできます。変更してください-DGGML_CUDA=ONを-DGGML_CUDA=OFFGPUがない場合、またはCPU推論のみを使いたい場合は。 Apple Mac / Metalデバイスの場合、次を設定します-DGGML_CUDA=OFFその後は通常どおり続けてください。Metalサポートはデフォルトで有効です。
以下をインストールした後、(
pip install huggingface_hub hf_transfer)。Q4_K_M や他の量子化版を選べます。
llama.cpp でモデルを会話モードで実行します。必ず使用する必要があります
--jinjaモデルで推論を有効にするには llama.cpp で行ってください。ただし 'mini' 版を使用している場合は不要です。
🦥 Unsloth で Phi-4 をファインチューニング
Phi-4 のファインチューニング モデル向けのものも、現在 Unsloth でサポートされています。Google Colab で無料でファインチューニングするには、単に model_name 'unsloth/Phi-4' を 'unsloth/Phi-4-mini-reasoning' などに変更してください。
最終更新
役に立ちましたか?

