ニューロシンボリック自律型サイバーエージェントのための観測データからのレッドエージェントポリシー学習

インターネット上の攻撃はますます巧妙になっています。銀行のシステムを狙ったり、企業の機密情報を盗んだり、社会インフラを混乱させたり。こうした脅威に対抗するため、企業や政府は「自分で考えて動くAI」を防衛に配置しようと考えています。これを「自律型防衛エージェント」と呼びます。

しかし現実は厳しい。防衛側のAIが見ることのできる情報は限られているのです。ネットワーク上では、すべての通信を完全に把握することは難しい。システムの一部は見えるけれど、全体像は見えない状態。そんな不完全な情報の中で、AIは攻撃者が「次に何をするのか」を予測しなければならません。人間でも難しいこのタスク。AIにとっても大きな課題だったわけです。

今回、研究者たちが提案したのは「模倣学習」という手法。簡単に言うと、優秀な防衛専門家やうまくいったケースの対応パターンを、AIが学ぶということです。料理人の技術を見て覚えるように、AIも「良い防衛」の事例から学ぶ。この方法を使えば、情報が不完全な状況でも、攻撃者の意図をより正確に読み取ることができるかもしれません。

なぜ今、このタイミングで注目されるのか。ひとつは、サイバー攻撃が進化し続けているから。昨年発表されたランサムウェア（身代金要求型ウイルス）の被害件数は、毎年20～30%のペースで増加しています。もうひとつは、人間だけでは対応しきれなくなってきたから。セキュリティ人材は不足し、攻撃は24時間休みなく続く。だから機械的かつ自動的に対応する仕組みが必要なのです。

この研究の成果が実現すれば、防衛側は攻撃を受けてから対応するのではなく、攻撃の「予兆」を先に察知できるようになるかもしれません。攻撃者の行動パターンを学んだAIが、まだ被害が出る前に「あ、この動きは危ない」と判断する。そうなれば、被害を最小限に抑えられます。

ただし、これで万事うまくいくわけではありません。攻撃者だって進化します。新しい攻撃手法に対しては、AIもまた学習が必要。さらに、AIが防衛に使われるなら、攻撃側もAIを使う。つまり、AIとAIの対決という新しい段階に進むかもしれません。セキュリティは、終わりのない進化のゲームなのです。