Fable 5をトークン破産させずに使い倒す — オーケストレーターに徹させる運用

「Claude 3 Opus」という、AI（人工知能）のモデルが登場しました。これは、今までのAIと比べても、ずば抜けて賢いと評判です。開発者の方々も、この賢さを試そうと、色々なことに使ってみたようです。例えば、プログラミングのコードを書かせたり、間違っているところを見つけて直させたり、さらには普段のちょっとした面倒な作業まで、Claude 3 Opusに任せてみたとのこと。まさに、AIに何でもやってもらう「万能アシスタント」として期待されていたわけですね。

ところが、実際に使ってみると、この賢いAIは「トークン」というものを、とてつもない勢いで消費してしまうことが分かりました。AIとのやり取りは、人間が話す言葉や書く文章を、AIが理解できる「トークン」という単位に変換して行われます。AIが賢ければ賢いほど、そして複雑な指示を出したり、長い文章を処理したりすると、このトークンをたくさん使うことになるのです。例えるなら、高性能な車はガソリンをたくさん消費するようなものでしょうか。このままでは、AIを使うための費用がどんどんかさんでしまう、という課題に直面したわけです。

そこで、開発者はこの賢すぎるAIを「トークン破産」させないように、賢く使う方法を考えました。その名も「オーケストレーターに徹させる運用」。これは、Claude 3 Opusそのものに全ての作業を任せるのではなく、他のAIモデルやツールをうまく使い分け、Claude 3 Opusには「指示を出す司令塔」のような役割だけを担わせる、という考え方です。つまり、Claude 3 Opusは、一番得意な「賢い判断」や「指示出し」に特化してもらい、実際の細かい作業や、トークンを大量に消費するような処理は、もっと安価で効率的な別のAIやツールに任せる、という分業体制を築いたのです。これにより、Claude 3 Opusの驚異的な賢さを最大限に活かしつつ、コストを抑えるという、まさに「いいとこ取り」の運用方法を編み出したと言えるでしょう。この工夫は、今後AIをビジネスや研究で活用していく上で、非常に参考になる考え方になりそうです。