ディープフェイク

ディープフェイク（Deepfake）とは、深層学習（Deep Learning）と「フェイク（偽物）」を組み合わせた造語で、AIを用いて実在の人物の顔・声・動作を精巧に模倣した偽の映像・音声・画像コンテンツを生成する技術です。特定人物の顔を別の動画に合成するフェイススワップや、音声クローニングによる本人になりすましが代表的な形態です。

ディープフェイクが社会問題となっている理由は、生成コストの低下と品質向上により、高度な技術知識がなくても誰でも精巧な偽コンテンツを作成できるようになったためです。著名人の偽動画による詐欺（投資詐欺・振り込め詐欺）、政治家の偽発言による世論操作、非合意的な性的偽画像（NCII）の拡散、ビジネスメール詐欺（BEC）での音声なりすましなど、実害が急増しています。

対策として、技術的にはContent Authenticity Initiative（CAI）のC2PAメタデータによるデジタル署名（コンテンツの出所証明）、AIを使った偽物検出（deepfake detection）が開発されています。法律面では日本の改正不正競争防止法・各国のdeepfake規制法が整備されつつあります。OpenAI・GoogleなどはSoraやImagen等の生成AIにC2PAウォーターマークを付与しています。ai-regulationの重要テーマの一つです。