プライバシー（AI文脈）

AIにおけるプライバシー（Privacy）とは、AIシステムが個人情報を収集・学習・利用する際の情報保護に関する概念です。AI特有のプライバシーリスクとして、学習データへの個人情報の混入、プロンプト経由の情報漏洩、モデルの記憶（メモリゼーション）による個人情報の再出力などが挙げられます。

プライバシーが重要な理由は、LLMがインターネット上の膨大なデータで学習しており、そこには個人の氏名・住所・医療情報などが含まれる可能性があるためです。また、企業がRAGやfine-tuningで社内の機密データをAIに投入する際のデータ管理も重要な課題です。

主な保護手段として、差分プライバシー（学習データから個人情報が推定されないよう統計的ノイズを加える技術）、連合学習（データを中央集約せずに分散学習）、プロンプトの匿名化処理などがあります。法的には日本の個人情報保護法・GDPRの遵守が求められており、個人情報保護委員会もAI活用に関するガイドラインを整備しています。