AIウォーターマーキング

AIウォーターマーキング（AI Watermarking）とは、LLMや画像生成AIが出力したコンテンツに、人間の目には見えない（または知覚されにくい）デジタルマーカーを埋め込み、そのコンテンツがAIによって生成されたことを事後的に検証可能にする技術です。テキスト・画像・音声・動画の各モダリティ向けの手法があります。

AIウォーターマーキングが重要な理由は、生成AIによるdeepfakeや偽情報の拡散が社会問題となっており、AI生成コンテンツを識別する技術的手段が求められているためです。EU AI Actでは高リスクAIおよび一般目的AI（GPAI）のコンテンツへのウォーターマーク付与が要件として議論されています。米国でも大統領令（Executive Order on AI）でAI生成コンテンツのウォーターマーキングが推奨されています。

技術的なアプローチとして、テキスト用ウォーターマーク（Kirchenbauer et al. 2023：LLMのトークン選択を統計的にバイアスし検出可能なパターンを埋め込む）、画像用ウォーターマーク（StegaStamp・Tree-Ring等）、メタデータによるコンテンツ来歴証明（C2PA：Content Credentials、Adobe・Microsoft・Google・Adobeが推進）があります。OpenAIはDALL-E・SoraにC2PAメタデータを付与しています。ウォーターマークの除去（攻撃）への耐性が課題です。