プロンプトのフレーミングがLLMエラー検出のカウントベース評価を歪める：数値アンカリングからの証拠

AI（人工知能）の進化が目覚ましい昨今、文章作成や要約など、様々な場面で「大規模言語モデル（LLM）」と呼ばれるAIが活躍しています。その性能を測る上で、「F1スコア」という指標がよく使われるのですが、実はこのF1スコア、AIの本当の能力を正確に表していない可能性があることが、最新の研究で指摘されています。

AIが文章の中から間違いを見つける能力を評価する際、AIに「どこに間違いがあるか」を指摘させ、その「間違いの数」などを元にF1スコアが計算されます。このF1スコアが高ければ高いほど、AIの誤り検出能力が高い、と一般的には考えられてきました。しかし、今回の研究によると、AIの「間違いを見つける精度」が実際には向上していないのに、F1スコアだけが劇的に高くなるケースがあるというのです。この現象を、研究者たちは「F1インフレーション」と名付けました。

なぜこのようなことが起こるのでしょうか？それは、AIに与える「指示（プロンプト）」の出し方に原因があるようです。AIに指示を出す際、特定の言葉（アンカー）をちりばめた指示を与えると、AIはあたかもより多くの間違いを見つけられたかのように、誤った回答を生成してしまうことがあります。まるで、テストで難しい問題ばかり出されると、正解できなくても「たくさん難しい問題が出たから、これくらいしか解けなかったのは仕方ない」と思ってしまうのに似ているかもしれません。

この研究では、「ErrorBench」という新しい評価方法が提案されています。これは、AIに与える指示の出し方を工夫することで、AIがどれだけ正確に間違いを見つけられているかを、より厳密にテストするためのものです。143の文章と6つの最新LLMを使って実験した結果、指示の出し方次第で、F1スコアが実際よりも最大で0.79ポイントも高く出てしまうことがあることが分かりました。特に、間違いの箇所を完全に一致させる厳密な評価では、その差は最大0.96にも達したそうです。つまり、AIの性能が上がったように見えても、それは指示の出し方による「見せかけ」だった、ということがあり得るのです。

この発見は、AIの性能を正しく評価することの難しさを示唆しています。AI開発者だけでなく、AIを利用する側も、F1スコアのような指標の限界を理解し、より実態に近い評価方法を模索していく必要がありそうです。AIを賢く、そして正しく使うために、今回の研究は私たちに大切な視点を与えてくれています。