なぜテック企業は、これほどまでに危険なトレンドを完全に排除できないのか。答えはシンプルだ。彼らのビジネスモデルが「アテンション(関心)」の搾取に基づいているからだ。過激な動画、感情を揺さぶる動画ほどエンゲージメントが高まり、広告収入を生み出す。
モデレーターによる手動の監視や、AIによる自動検出システムも導入されてはいる。しかし、毎日投稿される膨大な動画の津波に対して、それはバケツで海水を汲み出すようなものだ。規制をすり抜けるための新しい編集技術や、言葉の言い換えは日々進化しており、プラットフォーム側の対策は常に後手に回っている。