ハッカーが最も人気のあるAIツール9つを悪用し、大規模ボットネットを構築可能

最近、AI（人工知能）の進化が目覚ましいですが、その一方で、新しい技術には思わぬ落とし穴があることも少なくありません。今回、注目されているのは、AIの「弱点」を突いて、悪意のある目的で使われる可能性が出てきたというニュースです。具体的には、AI、特に「大規模言語モデル（LLM）」と呼ばれる、人間のように自然な文章を作ったり、質問に答えたりするAIの仕組みが悪用される恐れがあるとのこと。

LLMは、とても賢いように見えますが、実は「わからない」と素直に答えるのが苦手な場合があります。質問の内容によっては、無理にでも答えを探そうとしたり、それらしい情報を生成しようとしたりする性質があるのです。この性質を悪用する手口が「ハル スクワッティング」と呼ばれています。

これは、AIに特定の指示や質問を投げかけることで、AIが本来持っているはずの安全機能や倫理的なガードレールを迂回させ、意図しない、あるいは危険な動作をさせる技術です。今回のニュースでは、この「ハル スクワッティング」という手口が、なんと9つもの人気AIツールで確認されたとのこと。これらのツールは、私たちが普段から使っているような、文章作成や情報検索、プログラミングの補助などに役立つものばかりです。

では、具体的にどう悪用されるのかというと、これらのAIツールをハッカーが遠隔操作し、巨大な「ボットネット」を構築する可能性があるというのです。ボットネットとは、たくさんのコンピューターが、知らないうちにハッカーの指示で動くように乗っ取られた状態のことを指します。このボットネットが大量に集まると、ウェブサイトへの攻撃（DDoS攻撃など）や、迷惑メールの大量送信、さらには情報窃盗など、様々なサイバー犯罪に使われる可能性があります。AIが、犯罪の道具になってしまうかもしれない、というのは非常に恐ろしい話です。

AIは、私たちの生活を豊かにする可能性を秘めた素晴らしい技術ですが、その利用方法には常に注意が必要です。今回の件は、AI開発者だけでなく、私たちユーザー一人ひとりも、AIを安全に使うための知識を持つことの重要性を示唆しています。AIの「わからない」を正直に言えない性質が、ハッカーの格好の餌食になってしまうとは、まさに「光と影」と言えるでしょう。