コンテンツへスキップ
For the complete documentation index, see llms.txt. This page is also available as Markdown.

Phi-4 Reasoning: 実行とファインチューニングの方法

UnslothとDynamic 2.0量子化を使って、Phi-4の推論モデルをローカルで実行・ファインチューニングする方法を学びましょう

Microsoft の新しい Phi-4 推論モデルが Unsloth でサポートされるようになりました。「plus」版は OpenAI の o1-mini、o3-mini、Sonnet 3.7 に匹敵する性能です。「plus」と標準の推論モデルは 14B パラメータで、「mini」は 4B パラメータです。 すべての Phi-4 推論のアップロードでは、私たちの Unsloth Dynamic 2.0 手法。

Phi-4 推論 - Unsloth Dynamic 2.0 アップロード:

Dynamic 2.0 GGUF(実行用)
Dynamic 4-bit Safetensor(ファインチューニング/デプロイ用)

🖥️ Phi-4 推論の実行

⚙️ 公式推奨設定

Microsoft によると、推論に推奨される設定は次のとおりです:

  • 温度 = 0.8

  • Top_P = 0.95

Phi-4 推論のチャットテンプレート

「mini」版は別のテンプレートを使用するため、正しいチャットテンプレートを使用していることを確認してください。

Phi-4-mini:

<|system|>あなたの名前は Phi で、Microsoft によって開発された AI 数学の専門家です。<|end|><|user|>3*x^2+4*x+5=1 をどう解きますか?<|end|><|assistant|>

Phi-4-reasoning および Phi-4-reasoning-plus:

この形式は一般的な会話と指示に使用されます:

はい、チャットテンプレート/プロンプトの形式はこんなに長いのです!

🦙 Ollama: Phi-4 推論の実行チュートリアル

  1. インストール ollama まだの場合は!

  1. モデルを実行してください!必要に応じて ollama serve失敗した場合は別のターミナルで。私たちの修正内容と推奨パラメータ(temperature など)はすべて params Hugging Face へのアップロードに含めています。

📖 Llama.cpp: Phi-4 推論の実行チュートリアル

  1. 最新の llama.cpp を GitHubこちら。以下のビルド手順に従うこともできます。変更してください -DGGML_CUDA=ON を -DGGML_CUDA=OFF GPUがない場合、またはCPU推論のみを使いたい場合は。 Apple Mac / Metalデバイスの場合、次を設定します -DGGML_CUDA=OFF その後は通常どおり続けてください。Metalサポートはデフォルトで有効です。

  1. 以下をインストールした後、( pip install huggingface_hub hf_transfer )。Q4_K_M や他の量子化版を選べます。

  1. llama.cpp でモデルを会話モードで実行します。必ず使用する必要があります --jinja モデルで推論を有効にするには llama.cpp で行ってください。ただし 'mini' 版を使用している場合は不要です。

🦥 Unsloth で Phi-4 をファインチューニング

Phi-4 のファインチューニング モデル向けのものも、現在 Unsloth でサポートされています。Google Colab で無料でファインチューニングするには、単に model_name 'unsloth/Phi-4' を 'unsloth/Phi-4-mini-reasoning' などに変更してください。

最終更新

役に立ちましたか?