警察庁サイバー犯罪対策プロジェクトおよび法務省の発表資料によると、生成AIを悪用した著名人への肖像権・人格権侵害に関する相談件数は、2024年から2026年にかけて前年比約180%のペースで増加を続けています。かつては専門的なプログラミング技術が必要だった映像合成ですが、現在はスマートフォン向けアプリや簡易的なWebサービスを通じて、誰でも短時間で精緻なフェイク映像を作成できる環境が整ってしまったことが背景にあります。
国内では、主要アイドルグループのメンバーの顔をアダルト動画に合成し、有料会員制サイトや海外ストレージで販売・配布していた作成者が、名誉毀損罪および著作権法違反の容疑で相次いで逮捕されました。警察当局はサイバーパトロール体制を大幅に増強し、暗号資産（仮想通貨）による決済ルートの追跡やIPアドレスの特定を進め、匿名掲示板やSNSの裏アカウントを拠点とする悪質な配信者の摘発を本格化させています。
海外でも取り締まりの輪は急速に広がっています。特に世界的な影響力を持つK-POP業界では、韓国警察庁および放送通信審議会（KCSC）がインターポール（国際刑事警察機構）と連携し、グローバル規模のディープフェイク摘発作戦を展開しています。国境を越えたサーバー運営者に対しても強制捜査の手が伸びており、「ネット上の匿名性に隠れた犯行は必ず特定される」という司法の強い姿勢が示されています。
