2025年から2026年にかけて顕著になったのが、生成AI技術を極めて不当に悪用した誹謗中傷の手口だ。メンバーの声質を高精度に学習させた合成音声を用い、あたかも不適切な発言やファンへの暴言を吐いたかのように見せかける偽音声ファイルが配布される事案が確認されている。
画像分野においても、プライベート写真を模した精巧な合成画像が生成され、真偽の判断が難しい状態のまま拡散される。デジタル技術の進歩が悪意の刃を鋭利にし、受信者が真実と誤認しやすい環境を作り出している点は極めて深刻だ。
2025年から2026年にかけて顕著になったのが、生成AI技術を極めて不当に悪用した誹謗中傷の手口だ。メンバーの声質を高精度に学習させた合成音声を用い、あたかも不適切な発言やファンへの暴言を吐いたかのように見せかける偽音声ファイルが配布される事案が確認されている。
画像分野においても、プライベート写真を模した精巧な合成画像が生成され、真偽の判断が難しい状態のまま拡散される。デジタル技術の進歩が悪意の刃を鋭利にし、受信者が真実と誤認しやすい環境を作り出している点は極めて深刻だ。