KPMG、AIの幻覚問題でAI利用に関する報告書を撤回

大手コンサルティング会社KPMGが、AI（人工知能）の利用に関する報告書を撤回するというニュースは、AI技術の「信頼性」という、とても大切な課題を改めて私たちに突きつけました。

一体何が起こったのでしょうか？ KPMGはAIを使って、AIの利用状況に関する報告書を作成しました。しかし、その報告書の中に、AIが作り出した「幻覚」が含まれていたことが判明したのです。「幻覚」とは、AIが事実ではない情報を、あたかも真実であるかのように生成してしまう現象のこと。まるで夢を見ているかのように、でたらめな内容を自信満々に語ってしまう、と考えると分かりやすいかもしれません。

今回の場合、AIが参考にしたはずの情報源が実際には存在しなかったり、引用された情報が事実と異なっていたりしたようです。KPMGのような信頼性の高い企業が発表した報告書に、このような問題があったということは、AIをビジネスの現場で活用していく上で、その情報の正確性をどう担保していくか、という大きな課題を示しています。

AIは、私たちが与えた膨大なデータから学習し、新しい情報を作り出すのが得意です。しかし、その学習データに偏りがあったり、学習の仕方が不十分だったりすると、今回のような「幻覚」を引き起こすことがあります。特に、最新の情報やニッチな分野については、AIが正確な情報を持ち合わせていない場合も少なくありません。AIはあくまでツールであり、最終的な判断や情報の検証は人間の目と手で行う必要がある、ということをこの一件は教えてくれます。

私たちは今、AIが社会のあらゆる分野に浸透していく時代の入り口にいます。ニュース記事の要約、企業レポートの作成、顧客対応など、AIの活用範囲は広がるばかりです。しかし、その便利さの裏側には、情報の真偽を見極めるという責任が伴います。今回のKPMGの事例は、AIの可能性を信じつつも、その限界とリスクを理解し、賢く付き合っていくことの重要性を私たちに教えてくれる出来事だと言えるでしょう。