AIの「敏感さ」計算の難しさが明らかに

AI（人工知能）が私たちの生活にますます深く関わるようになるにつれて、その「安全性」や「信頼性」は非常に重要なテーマになっています。AIが外部からのわずかな入力の変化にどれほど敏感に反応するかを示す指標に、「$L_p$-Lipschitz定数」というものがあります。これは、例えば、自動運転車が画像認識をする際に、ほんの少しの光の変化で誤認識を起こさないか、といったことを評価するのに役立つと考えられています。

しかし、この$L_p$-Lipschitz定数を正確に計算することは、これまで非常に難しい問題とされてきました。AIの内部構造が複雑であるほど、この定数を求めるための計算も複雑になり、現実的な時間で答えを出すのが困難だったのです。

そんな中、最近arXivという学術論文のプレプリントサーバーで公開された研究が、この問題に新たな光を当てました。この研究では、特に「2層入力凸ニューラルネットワーク（ICNN）」という、比較的シンプルな構造を持つAIに注目しています。ICNNというのは、入力された情報が常に「上向き」あるいは「一定方向」にのみ変化していくような性質を持つネットワークのことです。

研究者たちは、このICNNにおける$L_p$-Lipschitz定数を計算する際の「パラメータ化複雑性」という概念を調べました。パラメータ化複雑性とは、AIの構造を決める要素（例えば、層の数や、各層にある計算ノードの数など）が増えるにつれて、計算の難しさがどれだけ急激に増していくかを示す指標です。そして、今回の研究で、ICNNにおける$L_p$-ノルム最大化問題、つまり$L_p$-Lipschitz定数に関連する計算が、「W[1]-hard」という、計算理論で「非常に難しい」とされるカテゴリに属することが示されました。これは、ICNNのパラメータを少し増やすだけで、計算にかかる時間が爆発的に増えてしまう可能性があることを意味しています。つまり、たとえ比較的シンプルな構造のAIであっても、その敏感さを正確に測ることは、やはり非常に困難な課題であるということが、理論的に示されたのです。