InstagramのAIチャットボットがハッカーに騙される、他人のアカウントへのアクセス許可

インスタグラムを運営するメタ社が、想定外の困った問題に直面しています。同社が導入したAIチャットボットが、ハッカーの巧妙な質問により簡単に「騙される」という脆弱性が明らかになったのです。

この問題の怖さは、単なる技術的なバグではなく、AIが人間のような判断をしようとするがゆえに陥りやすい落とし穴だということです。本来なら「他人のアカウントにアクセスさせるのは危険」と判断すべき場面で、ハッカーたちが工夫した質問の仕方によってAIが許可を与えてしまう。これは、AIシステムが単純な「yes/no」ではなく、文脈を理解して判断しようとするほど起こりやすい問題なのです。

何がきっかけで発見されたのか。セキュリティ研究者たちが意図的にAIに不正な指示を与えてみたところ、複数のパターンで成功してしまったといいます。その後、この脆弱性を悪用して実際に著名人のアカウントが乗っ取られた事件との関連も指摘されています。つまり、これは理論的な問題ではなく、すでに現実の被害が出ている可能性があるということです。

ユーザーにとって何が脅威なのか。アカウント乗っ取りは、単に個人的な恥ずかしい投稿をされるだけではありません。詐欺師たちは乗っ取ったアカウントを使って、その人の友人たちに金銭詐欺を仕掛けることもあります。特に著名人のアカウントは、数百万人のフォロワーに届く宣伝窓口となるため、より悪質な犯罪に利用される危険性があります。

メタ社は現在この問題への対応を進めているとされていますが、スピード感が重要です。AIセキュリティの問題は、従来のシステムバグと異なり、修正方法そのものが簡単ではありません。単にAIの回答を「より厳しく」するだけでは、今度は正当なユーザーリクエストも拒否される可能性があります。バランスの取れた対応が求められています。

セキュリティ専門家たちは、ユーザーに二段階認証の有効化やパスワード定期変更を推奨しています。これらは基本的な対策ですが、今回の事件を通じて改めてその重要性が浮き彫りになったわけです。つまり、AIの進化が速まるほど、ユーザー側の自衛意識も同時に高める必要があるということを示唆しているのです。