NVIDIA Nemotron 3.5 Lightning、Amazon SageMaker JumpStartで利用可能に

皆さんは、AIが何か作業をしてくれる「AIエージェント」って聞いたことがありますか？ 例えば、私たちの代わりにメールを書いてくれたり、複雑な情報をまとめてくれたりするようなものです。こうしたAIエージェントが、もっと賢く、もっと速く動くようになるための新しい技術が登場しました。

NVIDIAという、高性能なコンピューターの部品（特にAI計算に強いもの）を作っている会社が、「Nemotron 3.5 Lightning」という名前の新しいAIモデルを発表しました。そして、このすごいモデルが、Amazon（AWS）の提供する「Amazon SageMaker JumpStart」という、AI開発を助けてくれるサービスで使えるようになったんです。

このNemotron 3.5 Lightning、一体何がそんなにすごいのでしょうか？ それは、たくさんの情報を処理する能力の高さにあります。このモデルは、「Mixture-of-Experts（ミクスチャー・オブ・エキスパーツ）」という特別な仕組みを使っていて、例えるなら、たくさんの専門家が集まって、それぞれの得意分野で仕事をしているようなイメージです。全部で300億個もの「専門家（パラメータ）」がいるのですが、実際に仕事をする時には、そのうちの30億個だけが活躍します。これにより、無駄なく効率的に、そして何より速く動くことができるのです。

その結果、常に動き続けているAIエージェントの場合、これまでのモデルと比べて、一度にこなせる仕事の量（スループット）が最大で4倍にもなり、一つの仕事を終えるまでの時間も30%も短縮されるとのこと。これは、AIにたくさんの仕事をテキパキこなしてほしい、という場面では非常に大きな進歩と言えますね。例えば、カスタマーサポートでたくさんの問い合わせに同時に対応したり、複雑なデータ分析を素早く行ったりする際に、このモデルが活躍することが期待されます。

これまでAIの開発や利用は、専門的な知識や高いコンピューター性能が必要とされてきましたが、SageMaker JumpStartのようなプラットフォームが、こうした最先端のAIモデルをより多くの人が簡単に使えるようにしてくれることで、AIの活用はますます身近になっていくでしょう。