発端となったのは、2024年から2026年にかけて急増したショート動画プラットフォームや大手SNS上のプロモーション投稿でした。動画内では、石原さとみさんそっくりの人物が特定の投資アプリを推薦したり、未承認の美容商品を絶賛したりする様子が描かれており、視聴者の間で「公式CMなのか？」「アカウントが乗っ取られたのでは」と大きな話題を呼びました。
このフェイクニュース拡散の経緯を追尾すると、初期段階では海外の匿名広告配信ネットワークを経由して出稿されていたことが判明しています。本人のテレビ番組出演時のアーカイブ映像や過去のインタビュー音声から特徴量を抽出し、高性能な音声合成エンジンとフェイストラッキング技術を組み合わせて短時間で大量生成されていました。
「まさかあの石原さとみが投資を勧めるわけがない」と直感的に疑うユーザーがいた一方で、「本人が喋っているようにしか見えない」と信じ込み、リンク先をクリックしてしまったユーザーも少なくありません。背後には、視聴者の警戒心を解くために「国民的スターの顔」を隠れ蓑にする極めて悪質な企図が存在しています。
