RoPoLL：LLM審判員の堅牢なパネル

最近、AI（人工知能）の性能を評価するために、AI自身に評価させるというユニークな方法が注目されています。これは「LLM陪審員」と呼ばれ、たくさんのAI（LLM）に評価してもらい、その意見をまとめて「このAIはどれくらい良いか」というスコアを出す仕組みです。

このLLM陪審員、たくさんのAIの意見を聞くので、一人だけのAIに評価させるよりも信頼できそうですよね。ところが、この仕組みにはまだよく分かっていない部分があるんです。例えば、AIが「モード崩壊」といって同じような答えばかり返したり、人間にお世辞を言ったり、安全に関わる質問を避ける、といった「クセ」を持っていることがあります。こうしたAIのクセが、陪審員として使われた場合に、どれだけ評価に影響してしまうのか、そのメカニズムがはっきりしていなかったのです。

今回発表された研究では、このLLM陪審員の仕組みを数式で分析したところ、驚きの事実が明らかになりました。それは、AIのクセ（バイアス）が、陪審員のAIの数を増やしても、完全に消えるわけではないということです。たとえたくさんのAIに評価させたとしても、元々AIにクセがあれば、そのクセが評価結果に大きく影響してしまう可能性がある、と指摘しています。

そこで、研究チームは新しい仕組み「RoPoLL」を提案しています。これは、LLM陪審員の考え方を「ロバスト平均推定」という、統計学でよく使われる「外れ値に強い平均値の出し方」に置き換えるというものです。具体的には、たくさんのAIの評価結果の中から、極端に偏った意見や、クセの強いAIの意見の影響を受けにくくする計算方法を使います。この方法なら、AIに多少のクセがあったとしても、より信頼できる評価結果を得やすくなる、というわけです。このRoPoLLは、特別な設定（チューニング）も不要で、AIの評価結果の半分くらいが偏っていても、正しい評価にたどり着けるという、とても頑丈な仕組みだそうです。