コンテキストウィンドウ管理

コンテキストウィンドウ管理（Context Window Management）とは、LLMが処理できるトークン数の上限（コンテキスト長）という制約の中で、最も重要な情報を適切に配置・管理するための戦略と実装手法の総称です。チャットボット・エージェント・RAGシステムなど、長いやり取りや大量の情報を扱うアプリケーションで特に重要です。

主要な管理戦略として、(1)スライディングウィンドウ：会話履歴が長くなったら古いメッセージを削除し最新のN件のみ保持、(2)要約圧縮：古い会話履歴を要約してコンパクトなサマリーに置き換え、(3)プロンプトキャッシング：毎回変わらないシステムプロンプト部分をキャッシュしてコストとレイテンシを削減、(4)プロンプト圧縮：LLMLinguaなどのツールで不要なトークンを削減して重要情報の密度を高める、(5)RAGによる動的挿入：全情報を常時保持せず必要な情報のみ都度取得して挿入があります。

配置戦略として「Lost-in-the-Middle」問題（長いコンテキスト中央の情報が参照されにくくなる現象）への対策が重要です。最も重要な情報はコンテキストの先頭または末尾に配置することで参照精度が向上します。

マルチエージェントシステムでは、エージェント間でコンテキストを引き継ぐHandoff設計・共有メモリストアの活用・エージェントごとのコンテキスト分離など、より複雑な管理が求められます。