インターネットの普及に伴い、著名人の画像や動画が悪意を持って改ざんされるケースは後を絶たない。特に今回のケースでは、最新の生成AI技術が駆使されており、表情の微細な変化や肌の質感、さらには音声の波形までもが本人そっくりに再現されている。一般の視聴者が一見しただけでは、それが本物の映像なのか、それとも高度に作り込まれた偽物なのかを判別することはほぼ不可能に近いレベルに達している。
このようなコンテンツがSNS上で「本物の流出」として瞬時にシェアされ、トレンド入りしてしまう現状は極めて深刻だ。プラットフォーム側の検知アルゴリズムも進化しているものの、それをすり抜ける新たな生成技術とのいたちごっこが続いている。
