[ITmedia News] 生成AIの請求書、人件費と並べる時代へ 国内5社のAI責任者が語る「トークンマネジメント」の現在地

皆さんは、ChatGPTなどのAIを使ったことがありますか？文章を作ってもらったり、調べ物を手伝ってもらったり、とても便利ですよね。でも、実はこれらのAIを使うには、ちょっとした「コスト」がかかっているんです。今回、ITmediaさんの記事によると、日本国内の5つの有名なIT企業（LayerX、ラクス、Sansan、freee、メルカリ）のAIや人事の責任者たちが、このAIを使うための「コスト」について、驚くほど同じような意見を語っていたそうです。

そのコストとは、ずばり「トークン」という単位でかかる費用です。AIは、私たちが送った指示や質問、そしてAIが生成する回答を、すべて「トークン」という小さな言葉の塊に分解して処理しています。例えるなら、AIにとっての「文字数」や「単語数」のようなものです。このトークンが増えれば増えるほど、AIを動かすための費用も高くなるという仕組みです。

これまで、AIを導入するとなると、新しいシステムを開発する費用や、社員が使えるようにするための教育費などが主な経費と考えられてきました。しかし、今回の記事では、AIの「トークン」にかかる費用が、まるで社員の「人件費」のように、経営者にとって無視できない重要な経費として認識され始めていることが分かります。特に、経費精算や会計、名刺管理といった、企業のお金の流れや情報を扱うサービスを提供している企業ほど、AIのコスト管理に敏感になっているようです。これは、AIが単なる便利なツールから、企業のビジネス運営に直接関わる重要な要素へと変化している証拠と言えるでしょう。

AIをビジネスで本格的に活用しようとすると、どれだけAIに仕事を任せるか、どんな指示を出すか、そしてAIがどれくらいの量の情報を返すか、といった「トークンマネジメント」が、コストを抑えるためのカギになる。そんな時代が、もうすぐそこまで来ているのかもしれません。