一文定義
Phiとは、Microsoftが開発する小型高性能LLMシリーズです。高品質な合成データで訓練することでGPT-3.5相当の性能を大幅に小さいパラメータ数で実現し、「小さなモデルでも良いデータがあれば賢くなれる」を証明しました。
詳細解説
Phi（ファイ）とは、Microsoft Researchが開発する小型言語モデルシリーズです。Phi-1（1.3B、2023年）から始まり、Phi-2（2.7B）、Phi-3（3.8B〜14B）、Phi-4（2024年）と進化しています。「Textbooks Are All You Need」という研究コンセプトのもと、高品質な合成データと厳選されたウェブデータで訓練することで、モデルサイズを超えた性能を実現しています。
Phiが重要な理由は、scaling-lawの「大きなモデルが強い」という通念を「データの質が量を上回る」という新しい視点で挑戦し、エッジデバイスやオンプレミス環境でも高性能なLLMが使えることを示したためです。
技術的な特徴として、Phi-3 miniは3.8BパラメータながらMistral 7BやGemma 7Bと競合する性能を示しました。スマートフォンでのオンデバイス実行も可能で、iPhone上でのPhi-3のデモが公開されています。synthetic-dataの大規模活用における先駆的な事例であり、「教科書品質」の学習データが少ないパラメータを補えることを実証しました。knowledge-distillation的なアプローチ（大型モデルの知識を小型モデルに移す）との組み合わせも研究されています。
参考情報・出典
- ▸Textbooks Are All You Need (Phi-1)— arXiv / Gunasekar et al. / Microsoft (2023)（参照日: 2026-02-26）
- ▸Phi-3 Technical Report— arXiv / Abdin et al. / Microsoft (2024)（参照日: 2026-02-26）
最終更新: 2026-02-26← 用語集一覧へ