急速な普及の影で、見過ごせないのがAIアプリ危険性の真相とセキュリティの課題です。最も身近なトラブルとして報告されているのが、公式サービスに偽装した悪質なサードパーティ製アプリによる「高額請求」です。週額数千円単位のサブスクリプションが初期設定で自動更新されるトラップが仕掛けられており、気づかないうちに数万円を引き落とされる被害が散見されます。
さらに深刻なのが「情報漏洩」と「プライバシーの侵害」です。多くのAIツールは、ユーザーが入力したテキストやアップロードした画像をモデルの再学習データとして利用する規約になっています。社外秘の顧客リストや開発中のコード、顔写真を無防備に送信すると、別のユーザーへの回答として出力されてしまうリスクがゼロではありません。利用規約を確認し、学習へのデータ提供をオフにするオプトアウト設定を行うこと、そして機密情報や個人を特定できるデータを安易に入力しないリテラシーが求められます。
