Brex、AIエージェントの能力を信じ、コードではなくネットワークを監視

皆さんの会社に、新しい社員が入ると想像してみてください。その社員は、指示されたことはもちろん、時には自分で考えて新しいアイデアを出したり、他の社員と協力したりして、どんどん仕事をこなしていきます。そんな「優秀な社員」が、もしAI（人工知能）だったらどうでしょうか？

金融サービスを提供するBrex（ブレックス）のCEOは、まさにこのAIを「仮想従業員」と捉え、安全に会社で働いてもらうための新しい考え方が必要だと話しています。これまでのAIは、決められたプログラム（コード）通りに動く、どちらかというと「道具」のようなイメージでした。だから、その道具がきちんと動いているか、コードをチェックすれば安心だったのです。

でも、AIが自分で考えて動く「仮想従業員」になったら、話は変わってきます。彼らは、私たちが想像もしていなかったような方法で、システムを動かしたり、情報をやり取りしたりするかもしれません。そうなると、単にコードをチェックするだけでは、安全かどうか分かりにくくなってしまいます。

そこでBrexのCEOが提唱しているのが、AIの「行動」に注目するという新しい監視方法です。AIが、ネットワーク上でどんなやり取りをしているか、他のシステムとどう連携しているか、といった「高次元」の動きを見ることで、AIが安全に、そして最大限の能力を発揮できているかを確認しようというのです。これは、まるで優秀な社員が、どんな仕事をしているかを遠くから見守り、チームにどう貢献しているかを見ているようなイメージですね。

AIが進化し、私たちの仕事のやり方や社会の仕組みを変えていく中で、その「見守り方」も、AIの能力に合わせて進化させていく必要がある。Brexの提案は、そんな未来への大切な一歩と言えそうです。