サービスエージェントはいつ再考すべきか？カスタマーサービス業務における難易度ルーティング制御

AI（人工知能）が、ただの話し相手から、もっと頼れる「仕事人」へと進化しています。これまで、AIはチャットボットのように、私たちの質問に答えたり、情報を提供したりするのが主な役割でした。しかし、最近では、企業の中の複雑な手続きを、AI自身が直接行えるようになってきているのです。例えば、お客様からの「返品したい」「注文を変更したい」「予約を取り直したい」といった要望に対して、AIが直接、会社の記録を確認し、ルールに沿っているかチェックし、実際にシステムを操作して変更を完了させる、といった具合です。

これは、AIが「サービスエージェント」として、より実践的な業務を担うようになったことを意味します。しかし、ここで一つ大きな課題が出てきます。それは「サービス制御」の問題です。AIが直接、会社のシステムを操作するとなると、もし間違った指示を出してしまったり、予期せぬトラブルが起きたりすると、大きな問題になりかねません。企業としては、簡単な手続きはスムーズに、そして間違えなくこなしてほしい。でも、複雑な状況や、間違いが許されないような場面では、慎重に進めてほしい、という両方の願いがあります。

この難しいバランスをどう取るか？そのための新しいアイデアが、今回ご紹介する研究で提案されています。それは、「AIはいつ『もう一度考え直すべきか？』」という問いに答えるための仕組みです。具体的には、「難易度ルーティング」という考え方を使います。これは、AIの指示を、簡単なものと難しいものに振り分けるようなイメージです。簡単な手続きは、AIが直接、迷わず進められるように、スムーズな「基本ルート」に乗せます。一方、お客様の要望が複雑だったり、会社のルールとの兼ね合いが難しかったり、あるいはシステム操作に間違いがあると困るような「運用的に連携した」ケースでは、AIを「特別なルート」に誘導します。

この特別なルートでは、AIはすぐにシステムを操作するのではなく、まず「再考」するステップを踏みます。ここでの「再考」とは、単に考え直すだけでなく、お客様とのやり取りで、もし誤解や間違いが起こりそうなら、それを防ぐためのコミュニケーションを挟んだり、システムを操作する前に、その操作がもたらす結果をよく考えてから実行したりする、といった高度な判断を伴います。つまり、すべてのAIのやり取りに同じような厳格なチェックを入れるのではなく、本当に注意が必要な場面に、判断力や保護策を集中させるというわけです。これにより、全体のスムーズさを保ちつつ、重要な手続きでのミスを防ぐことができると考えられます。