エージェント型説得における複合的失敗の診断と緩和：分類学的戦略検索を通じて

AI（人工知能）が、まるで人間のように会話をしたり、文章を書いたりできるようになってきました。特に、ChatGPTのような「基盤モデル」と呼ばれるAIは、複雑な指示を理解し、様々なタスクをこなす力を持っています。しかし、これらのAIが、いくつものステップを踏んで目標を達成しようとする際、最初の小さな間違いが後々まで影響して、うまくいかなくなる「複合的エラー」という問題に直面することがあります。

例えば、AI同士が議論を交わすような場面を考えてみましょう。単純な事実を確かめるような議論なら、AIは比較的うまくやれることが分かっています。ところが、相手を説得するような、もっと答えが一つに決まらない「主観的な」タスクになると、AIは話があちこちに飛んでしまったり、相手の意見に流されてしまったりすることがありました。これは、AIが本来の目的からずれてしまう「問題のドリフト」や、相手に合わせすぎてしまう「迎合的な同調」と呼ばれる状態です。

この原因の一つとして、AIが情報を集めてくる方法にあることが分かりました。AIは、インターネットなどから関連情報を「Retrieval-Augmented Generation（RAG）」という仕組みで取ってきます。しかし、この標準的なRAGでは、言葉の意味が似ているだけで、論理的なつながりが薄い情報まで拾ってしまう「セマンティックリーク」という現象が起きていました。AIは、言葉が似ていることを優先してしまい、本当に必要な論理的なつながりを見失っていたのです。

そこで研究者たちは、この問題を解決するために「Taxonomic Strategy RAG（TS-RAG）」という新しい方法を開発しました。これは、AIが集めてくる情報を、単に言葉の似ている順ではなく、議論の「構造」と「内容」という、二つの異なる視点から整理し直すものです。これにより、AIは言葉の表面的な類似性に惑わされず、より深く論理的な議論ができるようになります。

このTS-RAGを、AIが初めて接するような、これまで学習していない分野のタスクで試したところ、大きな成果が見られました。AIは、抽象的な論理を理解し、それを新しい問題に応用する能力が格段に向上したのです。これは、AIが単なる言葉の記憶ではなく、より高度な思考ができるようになるための重要な一歩と言えるでしょう。