市場が拡大する一方で、法的なリスクや倫理的課題も浮き彫りになっている。既存の写真家やアイドルの肖像権・パブリシティ権を侵害するような追加学習データの利用や、実在人物への酷似が相次ぎ、法的トラブルに発展するケースも少なくない。
日本の文化庁は、AIと著作権に関する考え方を取りまとめ、著作権法第30条の4における「情報解析のための複製」の限界について議論を深めている。享受目的の生成・利用は著作権侵害に該当する可能性があるとの見解が示されており、クリエイターには適切な法知識と厳格なコンプライアンス意識が求められている。
