2026年末から2026年にかけて急増したのが、生成AIを悪用した画像や音声の捏造である。なにわ男子の特定メンバーが不適切な場所にいかにも存在していたかのように見せる合成写真や、虚偽の週刊誌風記事をSNS上で拡散させる行為が横行。拡散された情報は瞬く間に数百万回再生され、事実関係の確認が行われないまま「事実」として独り歩きした。
投稿の多くはインプレッション収益を狙った「コピペアカウント」やスパムbotによって増幅されており、デジタル空間における悪意の拡散スピードは従来の比ではない。単なる個人の感情的な誹謗中傷にとどまらず、閲覧数を稼ぐビジネスモデルの一部としてアイドルが利用されているという悪質極まりない構造が浮かび上がる。