問題の主戦場となっている大手のSNSプラットフォームや画像共有サービスに対しても、厳しい視線が注がれている。EUをはじめとする国際社会での厳格なデジタルサービス規制と同調するように、日本国内でもプラットフォーム事業者に対するモデレーション（監視・削除）の義務付けが強まった。
各社はAIを用いた自動検知フィルターを導入し、不正画像の即時削除を進めている。しかし、生成AI側も検知をかいくぐる技術を進化させており、いたちごっこが続いているのが実情だ。人間のモデレーターによる目視確認とテクノロジーの融合が試されている。
