【ロマンス詐欺や恐喝もAIで】米Anthropicが「サイバー攻撃の自律化」を警告(ビジネス＋IT)

最近、AIが私たちの生活に浸透するにつれて、その便利な側面だけでなく、悪用される可能性についても注目が集まっています。特に、AI開発企業である米Anthropicが発表した調査結果は、AIがサイバー攻撃にどのように使われているか、そして今後どのように進化する可能性があるかを示唆しており、私たち全員が知っておくべき内容です。

Anthropicは、自社のAIモデル「Claude」の利用規約に違反して停止されたアカウントを分析しました。その結果、AIが悪意のある目的で使われている実態が明らかになったのです。具体的には、ロマンス詐欺や恐喝といった、人の心の弱みにつけ込むような手口にAIが利用されていることが判明しました。これまでの詐欺は、人間が手作業でメッセージを作成したり、相手の反応を見ながら言葉を選んだりしていましたが、AIを使うことで、より巧妙で、より大量の詐欺メッセージを自動的に生成できるようになります。

想像してみてください。AIが、ターゲットのSNS投稿から趣味や関心を分析し、それに合わせた魅力的なプロフィールを自動で作成。さらに、まるで本当に人間が書いたかのような、感情に訴えかけるメッセージを次々と送りつけるのです。被害者は、相手がAIだと気づかないまま、巧妙に仕組まれた罠にはまってしまう可能性が高まります。また、恐喝においても、AIがターゲットに関する情報を収集し、脅迫文を生成したり、心理的な弱点をつくような言葉を選んだりすることで、より効果的な攻撃が可能になります。

この問題の根深いところは、AIが進化すればするほど、その悪用も高度化する点にあります。AIは学習能力が高いため、一度悪用され始めると、攻撃者はそのAIをさらに賢く、発見されにくいように「訓練」していくでしょう。まるで、ウイルスとワクチン開発のいたちごっこのように、AIの防御側と攻撃側の技術競争が激化する可能性も考えられます。

企業側は、AIの悪用を防ぐために、利用規約の強化や監視体制の構築、そしてAIモデル自体の安全性向上に努めています。しかし、攻撃者も常に新しい抜け道を探しているため、完全に防ぎ切ることは非常に難しいのが現状です。私たち一般のユーザーも、AIが生成した情報やメッセージに対しては、常に「本当かな？」と疑う姿勢を持つことが重要になります。デジタル社会におけるリテラシー、つまり情報を正しく理解し、適切に判断する力が、これまで以上に求められていると言えるでしょう。