AIディベート

AIディベート（AI Debate / AI Safety via Debate）とは、AI安全性研究の文脈でIrving et al.（2018）が提案したスケーラブル監督の手法です。2つ以上のAIエージェントが互いに議論し、人間の審判がどちらの主張が正しいかを判定することで、人間が直接評価できないほど複雑な質問でも安全性を確保しようとするアプローチです。

基本的なセットアップ： **エージェントA**：ある主張を提示し、その正当性を論証します。 **エージェントB**：エージェントAの主張の誤りや欠陥を指摘する反論を展開します。 **人間の審判**：両者の議論を見て、どちらが正しいかを判定します。

ディベートの有効性の仮定： AIが嘘をついたり誤解を招く回答をした場合、もう一方のAIがその誤りを指摘できます。正直に正確な情報を提供することが最善戦略（ナッシュ均衡）になるよう設計されています。これにより人間審判は専門知識なしでも正確な評価が可能になると期待されます。

応用と限界： **scalable oversight**の文脈では、超人的なAIの行動を監督するための手法として研究が進んでいます。ただし、両方のエージェントが共謀して人間を欺く可能性（collusion）や、ディベートのゲーム的な性質が真の正確性を担保しないという批判もあります。スーパーアライメント研究の重要なアプローチの一つとして位置づけられています。