技術の無秩序な拡大に対し、制度面の整備も急ピッチで進む。2026年に向けた法改正の議論においては、ディープフェイク技術を用いた人権侵害や詐欺行為に対する罰則の大幅強化が焦点となっている。従来の個人情報保護法や著作権法ではカバーしきれなかった「生体データや顔画像の無断学習・生成」を直接規制する新たな法制化が検討されている。
同時に、事業者側に求められるサイバーセキュリティの基準も高まっている。AI生成物であることを証明する電子水可視化（電子 watermark）の導入義務化や、悪用リスクの高いツールの流通規制など、水際で不正を防ぐための実効性あるガイドライン策定が進行中だ。
