一文定義
モデルが一定規模を超えたときに突然現れる予測外の能力。小規模モデルでは見られなかったタスクが大規模化で突然解けるようになる現象。
詳細解説
創発能力（Emergent Abilities）とは、大規模言語モデル（LLM）においてモデルのパラメータ数や学習データ量が一定の閾値を超えた際に、小規模モデルでは観察されなかった能力が突然出現する現象です。Weiらが2022年に体系的に報告し、LLMのスケーリングが単なる量的改善ではなく質的な能力変化をもたらすことを示した重要な概念として注目されています。
具体的な創発能力の例として、(1)Few-shot算術：3桁以上の足し算・掛け算を例示のみで解く能力。GPT-3（175B）で出現、(2)Chain of Thought推論：段階的な推論ステップを生成して複雑な問題を解く能力。100B規模以上で出現、(3)コード生成：自然言語の指示からプログラムを生成する能力、(4)多言語翻訳：学習データに少ない言語ペアでも翻訳できる能力、(5)指示追従：明示的に指示追従の学習をしていなくても、自然言語の指示に従えるようになる能力が報告されています。
議論と反論として、Scharfらの2024年の研究では「創発能力は測定指標の選び方に依存するアーティファクト（見せかけ）である」という反論が提示されました。非線形な評価指標（exact matchなど）を使うと能力が「突然」出現するように見えるが、連続的な指標（token-level accuracy等）で測ると性能は滑らかに向上しているという主張です。
スケーリング法則との関係として、創発能力の存在はLLMの開発競争において「モデルを大きくすれば新しい能力が得られるかもしれない」という動機を提供し、フロンティアモデルの大規模化を推進する要因の一つとなりました。一方で、テストタイムコンピュートやファインチューニング手法の進歩により、比較的小さなモデルでも高度な能力を引き出せることが近年示されています。
参考情報・出典
- ▸Emergent Abilities of Large Language Models— arXiv / Wei et al.（参照日: 2026-02-26）
- ▸Are Emergent Abilities of Large Language Models a Mirage?— arXiv / Schaeffer et al.（参照日: 2026-02-26）