かつて映像の合成には専用の特撮技術や高価な編集ソフトが必要であり、高度な専門技能を持つクリエイターのみが可能とする領域であった。しかし、現在の生成AI技術は過去の常識を覆している。広瀬すず氏の画像や出演映像はインターネット上に数多く存在しており、AIの学習データセットとして悪用されやすい環境が存在する。
敵対的生成ネットワーク（GAN）や最新の拡散モデル（Diffusion Models）を活用したツールは、数千枚単位の顔写真を解析し、照明の違いや微細な表情の変化まで正確にマッピングする。これにより、第三者の体に広瀬氏の顔を自然に移植した動画が数分程度でレンダリングされてしまう。技術の民主化が悪意あるユーザーに武器を与えた形だ。
