SNS各社は現在、過度な露出や性的なコンテンツに対して厳しい自動モデレーションを行っている。しかし、今回の画像はその網の目を完全にすり抜けた。なぜなら、システム的にはただの「美しい抽象画」として認識されるからだ。
モデレーションAIと生成AIのいたちごっこは、新たな局面を迎えている。文脈や人間の主観的な受け止め方を判定できない現在の検閲システムにおいて、この「見えない官能」をどのように扱うべきか、プラットフォーム運営者は頭を抱えている。
SNS各社は現在、過度な露出や性的なコンテンツに対して厳しい自動モデレーションを行っている。しかし、今回の画像はその網の目を完全にすり抜けた。なぜなら、システム的にはただの「美しい抽象画」として認識されるからだ。
モデレーションAIと生成AIのいたちごっこは、新たな局面を迎えている。文脈や人間の主観的な受け止め方を判定できない現在の検閲システムにおいて、この「見えない官能」をどのように扱うべきか、プラットフォーム運営者は頭を抱えている。