技術の急速な進化に伴い、2026年における最大の懸念事項となっているのが生成AIを用いたディープフェイク技術の悪用です。実在する子役やタレントの顔写真を無断で学習させ、実物と見分けがつかない偽の過激画像を自動生成する事例が国際的な社会問題となっています。
これに対し、警察庁およびサイバー犯罪対策課は取締りを大幅に強化。主要プラットフォーム（X、YouTube、TikTok、検索エンジン各社）も、未成年者を保護するためのハッシュマッチング技術やAIフィルタリングを導入し、不審な画像や検索キーワードを瞬時に検知・非表示化するアルゴリズムを標準配備しています。悪質な生成ツールを提供する海外サーバーに対しても国際捜査機関が連携したドメイン差し押さえが進んでおり、ネット空間の浄化作戦が本格化しています。
