もっとも、課題が完全に解消されたわけではない。メディアやプラットフォームがユーザーの精神状態に深く介入することに対する懸念の声も、倫理学者やジャーナリストの間から上がり始めている。
「感情データを分析してコンテンツを最適化するプロセスがブラックボックス化すれば、ユーザーの思考や情緒が意図的に誘導されるリスクを排除できない」と、デジタル倫理を研究する大学教授は指摘する。特にメンタルが弱っている状態のユーザーは受容性が高く、提示された情報に依存しやすい傾向がある。AIによるレコメンド精度の向上がもたらす利便性の裏で、プラットフォーム側のデータ取扱規約やフィルターバブルの回避策について、さらなる透明性と厳格なガイドラインが求められている。
