対数確率

対数確率（Log Probabilities / logprobs）とは、言語モデルが次のトークンを予測する際に各候補トークンへ割り当てる確率を対数スケールで表した値です。確率pに対してlog(p)で計算され、値は常に0以下（確率1のとき0、確率0に近づくほど負の無限大）となります。

OpenAI APIやAnthropicのAPIでは、レスポンス時にlogprobsパラメータを有効にすることで、生成された各トークンのlogprobs値を取得できます。

logprobsの主な活用場面： **確信度の測定**：logprobsが高い（0に近い）トークンはモデルが高確率で予測したもの、低い（負に大きい）トークンは不確実な生成を示します。 **カリブレーション評価**：モデルが出力する確率がどれだけ実際の正確さと一致しているかを評価するperplexity計算に使われます。 **ビーム探索との連携**：ビーム探索では各ステップのlogprobsを累積して最も高確率なシーケンスを選択します。 **制約付き生成**：特定のトークンのlogprobsを操作することで生成を特定の方向に誘導できます。 **ハルシネーション検出**：低logprobsのトークン連続は事実関係が不確かな生成（ハルシネーション）の指標となる場合があります。

logprobsはLLMアプリケーションのデバッグ・品質保証・高度な生成制御において強力なツールとなります。ただし、logprobsが高くても生成内容が正確とは限らず、あくまでモデルの内部的な確信度の指標であることに注意が必要です。