技術の暴走に歯止めをかけるべく、世界の法制度は激変の時代を迎えた。欧州連合 (EU) は包括的なAI法案の運用を強化し、個人の尊厳を脅かす悪質なディープフェイク生成ツールの開発・提供に対する厳罰化を打ち出した。EU圏内での透明性義務を怠った企業には、巨額の制裁金が課される法的枠組みが定着している。
米国でも州法および連邦レベルでの法整備が進む。米国連邦捜査局 (FBI) は、ディープフェイクを用いた脅迫や詐欺、性的搾取に対する警告を繰り返し発出しており、サイバー犯罪としての立件件数は増加の一途をたどる。日本においても、著作権法や名誉毀損罪にとどまらず、非同意ポルノ作成・拡散行為そのものを直接取り締まる法改正の議論が急速に具体化している。
