LLMファンクションコーリングにおける不確実性定量化

最近、AI（人工知能）がどんどん賢くなって、私たちの代わりに色々な仕事をしてくれるようになっています。例えば、インターネットで調べ物をしたり、メールを送ったり、さらにはお金のやり取りやデータの削除といった、もっと複雑な作業もAIに任せようという動きがあります。

そのために「LLMファンクションコーリング」という仕組みがよく使われています。これは、AIに「このツール（関数）を使ってね」と指示を出すようなイメージです。AIが自分で考えて、どのツールを使えば目的にたどり着けるかを判断するわけですね。

でも、ここで一つ大きな問題があります。もしAIが間違ったツールを選んでしまったらどうなるでしょうか？特に、お金を送金したり、大事なデータを消してしまったりするような、取り返しのつかない間違いを犯してしまうと、大問題になりかねません。AIが「この作業は成功した」と思っても、実は失敗していて、後から大変なことになっていた、なんてことになったら怖いですよね。

そこで、Appleの研究者たちが新しい技術を提案しました。それは、AIが関数を呼び出すときに、その「確からしさ」を測る方法です。AIが「この関数を使えば、たぶんうまくいくはずだ」とか、「いや、これはちょっと危ないかもしれない」といった、自分の判断に対する自信の度合いを数値化するんです。たとえるなら、AIが「この仕事、自信あります！」とか「この仕事は、ちょっと不安ですが、やってみます」と、自分の状態を教えてくれるようなものです。

この技術があれば、AIが自信なさげなときは、人間がストップをかけたり、別の方法を考えさせたりすることができます。これにより、AIが誤った関数を呼び出して、取り返しのつかない事態になるのを防ぐことができるようになる、というわけです。AIが自律的に、かつ安全に現実世界のタスクをこなせるようになるための、とても重要な一歩と言えるでしょう。