AIエージェントが間違えるのは、データエンジニアリングの不備が原因

ChatGPTやBardなどのAIアシスタントが、明らかに間違った情報を、まるで本当のことのように答えるのはなぜでしょう。多くの人は「AIの学習モデルが不完全だから」「質問の指示出しが悪いから」と考えますが、実はその奥にもっと地味で厄介な問題が隠れています。それは、AIが参照する情報源そのものが古くなっているということです。

AIは膨大な情報をもとに学習していますが、その情報は時間とともに劣化していきます。たとえば、ある商品の価格、企業のポリシー、サービスの仕様といった、頻繁に変わる情報があります。こうしたデータがAIシステムに『正しい状態』で入力されていなければ、AIはそれを信じ込んで回答してしまいます。怖いのは、AIが『自信を持って』間違えることです。不確実な口調ではなく、確信を持って誤情報を提供してしまうのです。

実際、研究指摘によれば、調整を重ねたAIであっても3ヶ月経つと、利用者からの質問の約3分の1で、最新でない情報に基づいた回答を自信満々に答えてしまう可能性があるとのこと。これは『AIの頭が悪い』のではなく、『AIに与えられるデータが常に最新に保たれていない』ことが根本原因です。

企業がAIを導入する際、多くのチームはモデルや質問の工夫に注力します。しかし、その前提となるデータベースが古い情報のままでは、どんなに優秀なAIでも期待通りに機能しません。さらに困ったことに、AIが誤った情報を生成していることを検出できる十分なツールを持っていない企業が大多数です。つまり、企業自体が「AIが何を信じているのか」「その情報は本当に正しいのか」を把握できていないという状態が生まれているわけです。

これはAI業界が直面する、地道だが重要な課題です。見た目の性能よりも、水面下のデータ管理が、AIの信頼性を左右する時代になってきたということでもあります。