合成根拠データを用いた教師ありファインチューニングは、現実世界の疾患予測を損なう

最近、人工知能（AI）が医療分野で活躍する期待が高まっています。特に、病気の予測や診断をAIがサポートすることで、より早く、より正確な医療が提供できるようになるかもしれません。その中で注目されているのが、「教師ありファインチューニング（SFT）」という技術です。

SFTは、AIに答えだけでなく、その答えに至った理由（根拠）も一緒に学習させる方法です。例えば、「この患者さんはAという病気です。なぜなら、Bという症状とCという検査結果があるからです」というように、病名とその根拠をセットで教え込むイメージです。これにより、AIは単なる「勘」ではなく、論理的な思考に基づいて予測できるようになると考えられてきました。特に、医療のように「なぜそう判断したのか」が重要視される分野では、この根拠を説明できるAIは非常に価値が高いと期待されていました。

しかし、今回発表された研究は、この期待に一石を投じる内容です。研究チームは、長期的な健康データを使って、AIが5年後のアルツハイマー病や関連する認知症（ADRD）を予測できるかを検証しました。その結果、驚くべきことに、根拠を教え込んだSFTを行ったAIは、根拠なしで病名だけを教え込んだAIよりも、予測の精度が大幅に下がってしまったというのです。

これは、AIに「根拠」を教え込むことが、必ずしも良い結果につながるとは限らない、ということを示唆しています。研究では、様々なAIモデルやデータの規模を変えて試しても、この予測精度の低下は一貫して見られました。さらに、AIが推論（判断）を行うことに特化したモデルを使っても、結果は同じでした。

この失敗の原因は、AIに教え込んだ根拠の質が悪かったからではありません。人間の専門家が確認したところ、AIが生成した根拠は医学的に正しく、患者さんの実際のデータに基づいていることが分かっています。また、同じ根拠をAIの学習時ではなく、予測を行う際に「ヒント」として与えた場合には、かえって予測精度が向上することも示されました。

この研究結果は、AIを医療に応用する上で非常に重要な示唆を与えています。AIが「なぜそう判断したのか」を説明できることは重要ですが、その説明のための学習方法が、かえってAI本来の予測能力を妨げてしまう可能性がある、ということです。まるで、テストで答えだけでなく、その答えに至るまでの思考プロセスまで細かく教え込みすぎた結果、かえって本番で応用が利かなくなってしまった、といった状況に近いのかもしれません。AIの学習方法について、私たちはもっと深く考える必要があるでしょう。