近年における画像生成AIの急速な普及は、クリエイティブ分野に革新をもたらした一方で、悪意あるユーザーによるディープフェイク技術の悪用という深刻な副作用を生み出した。かつての画像加工は専門的なソフトと高度な技術を要したが、現在のAIモデルは数枚の顔写真を学習させるだけで、本人の表情や光の当たり方まで完璧に模倣した極めて自然な画像を生成できてしまう。
特にターゲットになりやすいのが、メディア露出が多く、高画質な顔写真データが大量に存在する有名アイドルだ。冠番組である『乃木坂工事中』の放送映像や、公式YouTubeチャンネルで公開された動画のスクリーンショットなどが無断でAIの学習素材として使われ、悪質なフェイク画像が大量生成されるケースが確認されている。インターネット上に一度放出されたデジタルデータは完全に消去することが困難であり、被害を受けた本人の精神的苦痛は計り知れない。
