NVIDIA Vera Rubin、エージェントAI時代の重要指標「トレーニング後ワークロードにおけるドルあたりの知能」を最大化

AIの世界は日々進化していますが、その進化をどうやって測ればいいのでしょうか？特に最近注目されているのが「エージェントAI」という、まるで人間のように自分で考えて行動するAIです。このエージェントAIがもっと賢く、もっと効率的になるためには、一体何が重要なのでしょうか？

そんな疑問に答えるべく、NVIDIAが新しい考え方と、それを実現する技術を発表しました。その名も「トレーニング後ワークロードにおけるドルあたりの知能」。これは、AIが実際に仕事をする（ワークロード）上で、1ドル（約150円）を使ったときに、どれだけの「賢さ」が得られるか、という指標です。つまり、AIの能力をコストパフォーマンスで測ろうというわけですね。

なぜこの指標が重要かというと、AIが私たちの生活の様々な場面で活躍するようになる「エージェントAI時代」が来るからです。例えば、AIが自分でスケジュールを組んだり、調べ物をしたり、さらには複雑なタスクをこなしたりするようになるかもしれません。そんな時、AIの能力が高くても、使うのにすごくお金がかかってしまっては、なかなか普及しませんよね。だからこそ、AIが「賢い」だけでなく、「コストパフォーマンスが良い」ことが、これからのAIには不可欠なのです。

NVIDIAが今回発表した技術は、この「ドルあたりの知能」を最大化することを目指しています。その秘密は、「極端なコデザイン」という考え方と、それによって実現される「最低トークンあたりのコスト」にあります。少し難しい言葉が出てきましたが、これはAIが情報を処理する「最小単位（トークン）」あたりのコストを、徹底的に低く抑えるための工夫のことです。AIの訓練（トレーニング）が終わった後、実際に動かす段階でのコストを抑えることが、結果としてAI全体のコストパフォーマンスを高めるという考え方なんですね。

これまでAIの性能は、どれだけ複雑な計算ができるか、どれだけ多くのデータを学習できるか、といった「能力」で語られることが多かったかもしれません。しかし、これからは、その能力をどれだけ効率的に、そして安く使えるかが、AIの普及と発展の鍵を握ると言えるでしょう。NVIDIAのこの新しい指標と技術は、まさにそんな未来を見据えたものと言えそうです。