心霊スポットとしての過熱は、地域社会に深刻な摩擦をもたらしている。香川県警察は五色台周辺のパトロールを強化しており、不審車両の職務質問や交通取り締まりを厳格に実施している。
好奇心から「立ち入り禁止」の看板を無視して廃墟や私有地へ侵入した場合、刑法第130条の「建造物侵入罪」に問われ、3年以下の懲役または10万円以下の罰金が科される可能性がある。また、みだりに他人の土地に侵入する行為は軽犯罪法違反の対象となる。
警察関係者や地元自治体は、夜間の無謀な走行や違法駐車、騒音行為に対して厳しい姿勢を崩していない。「肝試し」という軽率な動機が、前科や重大な事故という取り返しのつかない代償を招くリスクについて、強い警告が発せられている。