流出騒動を論じる上で、いま最も警戒すべき脅威が生成AIの悪用です。わずか数秒の音声サンプルや数枚の顔写真があれば、本人が話しているかのような映像を極めて自然に生成できる時代になりました。現在ネットに出回るコンテンツの中には、完全なAIディープフェイクによる捏造が相当数紛れ込んでいます。
生成AIで作られたフェイク画像は、肌の質感や指先の描写、音声の抑揚まで精巧に再現されており、一般の閲覧者が肉眼で真偽を見抜くことはほぼ不可能です。「本人が絶対に言いそうにない発言」であっても、動画というフォーマットで提示されると多くのユーザーが真実として受け止めてしまい、瞬時に炎上してしまいます。
これに加え、クラウドサービスやSNS自体のアカウント乗っ取り被害も深刻です。フィッシング詐欺や脆弱なパスワードの使い回しを突かれ、ストレージ内のプライベート写真が丸ごと抜き取られる事件が多発しています。本人の過失がゼロであるにもかかわらず、一度流出したデータのデジタルタトゥーを完全に消去することは極めて困難です。
