マルチモーダルLLM評価器の知覚判断バイアス緩和：知覚摂動と報酬モデリング

スマートフォンのカメラ機能やAIによる自動採点システム。こうした場面で活躍する「マルチモーダルLLM」というAIが、実は大きな落とし穴を抱えていることが分かった。

マルチモーダルLLMとは、画像とテキストの両方を理解できるAIのこと。「この写真に何が写っていますか」と聞いても「この文章は正しいですか」と聞いても答えられる優れたモデルだ。ところが、このAIが「自動採点者」や「判定者」として働く場面で、厄介な癖が出ることが判明した。

研究によると、AIは「もっともらしく聞こえるテキスト」と「実際の画像内容」が矛盾するとき、なぜか画像を無視して、言葉のほうを信じてしまうのだという。たとえば、真っ青な空の写真に対して「この空は赤いです」という説明がついていたら、AIは文章が正しそうに思えると判断してしまう可能性があるということだ。

これは人間が「見た目の判断」より「説得力のある説明」を優先する心理に似ている。だが、AIが採点者や審査者として機能する現在、こうした偏りは大問題になりかねない。たとえば医療画像の診断支援、自動運転の安全性評価、コンテンツ審査など、正確性が命となる場面では致命的な誤りを招く。

研究チームが打ち出した対策は、「計算された画像変化」を使ってAIの癖を自覚させ、画像とテキストのどちらも適切に評価する訓練方法だ。イメージとしては、AIに「この説明、本当に画像と合ってますか？」という問いを繰り返し投げかけ、見直す習慣をつけるようなもの。新しい評価方法を組み合わせることで、AIの判断がより信頼できるものになるという。

この研究が示す意味は深い。AIが人間のように「複雑な判断」を任される時代に、その弱点を認識し対策を立てることがいかに重要かを浮き彫りにしている。完璧に見えるAIも、実は見えない盲点を持っている。その盲点にどう向き合うかが、AIを安全に使う鍵になるのだ。