Copilotの重大な脆弱性、ハッカーがユーザーから2FAコードを盗むことを可能に

最近、マイクロソフトのAIアシスタント「Copilot」に、ユーザーの二段階認証コード（2FAコード）を盗み出す可能性のある重大な脆弱性が見つかりました。この「SearchLeak」と呼ばれる欠陥は、AIのセキュリティ対策がいかに難しいか、そして私たちがどう向き合うべきかを教えてくれます。

二段階認証は、パスワードだけでなく、スマホに送られてくるコードなどを入力することで、セキュリティを強化する仕組みです。これがあるおかげで、たとえパスワードが漏れても、第三者が簡単にログインすることはできません。しかし、今回の脆弱性は、その二段階認証の最後の砦ともいえるコードまで、ハッカーが手に入れられる可能性があったという点で深刻です。

一体なぜこのようなことが起きてしまったのでしょうか？問題の根源は、大規模言語モデル（LLM）と呼ばれるAIが、ウェブ上の膨大な情報を学習するプロセスにあります。AIは、私たちが検索した内容や入力した情報から、次に何を答えるべきかを予測します。今回のケースでは、AIが過去の検索履歴や対話の内容を不適切に処理してしまい、本来見せるべきではない個人情報の一部、具体的には二段階認証コードのような機密情報が、ハッカーの操作によって引き出される可能性があったのです。

これは、AIが「賢すぎる」がゆえに起こる問題とも言えます。AIは、悪意のあるユーザーが仕掛けた巧妙な質問や操作に対して、意図せずして「秘密の情報」を教えてしまうことがあります。例えるなら、とても博識な友人が、質問の仕方を少し変えるだけで、本来話すべきでないプライベートな情報をうっかり漏らしてしまうようなものです。AIは人間と違って感情がないため、「これは言ってはいけない」という倫理的な判断ができません。

この問題は、Copilotに限らず、他のAIサービスでも起こりうる、AI特有のセキュリティ課題として認識されています。AI開発企業は、AIが学習するデータの選別や、ユーザーとの対話中に機密情報が漏れないような仕組み作りに力を入れていますが、AIの複雑さゆえに、完全に防ぎ切るのは至難の業です。

私たちユーザー側も、AIサービスを利用する際には注意が必要です。安易に個人情報を入力しない、怪しいリンクや指示には従わないといった基本的なセキュリティ意識を持つことが大切になります。AIは便利なツールですが、その裏に潜むリスクも理解し、賢く付き合っていく必要があります。