なぜここまで悪質な書き込みが止まらないのか。その背景には、SNSのインプレッション収益化システムという構造的課題が存在する。閲覧数を稼げばお金になる仕組みが悪用され、ショッキングなタイトルや捏造記事で炎上を煽るアカウントがビジネスとして成り立ってしまっているのだ。
2026年に入り、事態をさらに深刻化させているのが生成AI技術の悪用だ。メンバーの声や顔を精巧に学習させた「ディープフェイク」音声を生成し、あたかも本人が未成年者と不適切な会話をしているかのような捏造音声動画が拡散されたケースも報告されている。一見しただけでは偽物と見分けがつかない高精度なコンテンツが、悪意ある投稿者によって無差別にバラまかれているのが現状だ。
