かつては専門知識と膨大な作業時間を要した画像編集だが、現在の生成AI・ディープフェイク技術は数秒で「本物」と見紛うクオリティの人物画像を生成してしまう。学習データの膨大化とプロンプトの精密化に伴い、肌の質感や照明の反射、さらにはわずかな表情のニュアンスまでもが再現可能となった。この技術的ブレイクスルーが、悪意あるユーザーの手によって悪用されている。
特にターゲットになりやすいのが、知名度の高いタレントや女優だ。公開されている大量の公式写真や動画素材がAIの学習用データセットとして無断で読み込まれ、意図しない合成画像の作成に利用される。生成された精巧な画像は、オリジナルと見分けがつかないレベルに達しており、単なる合成画像の枠を超えた捏造として機能してしまうのが現状だ。
