ファインチューニング

ファインチューニング（Fine-tuning）とは、大量データで事前学習（Pre-training）済みのモデルを、特定のタスクやドメインに合わせた小規模なデータセットでさらに学習させることで、その領域での性能を最適化する技術です。

なぜファインチューニングが使われるかというと、汎用LLMはさまざまなタスクをこなせますが、特定分野（医療・法律・自社製品など）の専門知識や特有の文体・フォーマットへの適応は十分でない場合があるためです。ファインチューニングにより、少ないコストで特化した性能を引き出せます。

代表的な手法には、モデル全体のパラメータを更新する「フルファインチューニング」と、一部のパラメータのみを更新する効率的手法（LoRA、SFT等）があります。RAGが「外部情報の参照」で補うのに対し、ファインチューニングは「モデルそのものの知識・振る舞いを変える」アプローチです。