密な教師信号だけでは不十分：ループ型言語モデルにおける読み出しの盲点

AIの進化は目覚ましいですが、その裏側では、私たちが想像する以上に複雑な課題が隠されていることがあります。今回は、AIの「学習方法」にまつわる、ちょっとした「盲点」についてお話ししましょう。

AI、特に文章を生成する「言語モデル」は、たくさんのデータを読んで、次にどんな言葉が来るかを予測する練習を繰り返します。この練習のやり方には、いくつか種類があるのですが、今回注目するのは「ループ型言語モデル」というタイプです。これは、AIが情報を処理する仕組みが、ぐるぐると回る「ループ」のようになっているのが特徴です。AIは、このループの中で「隠れ状態」と呼ばれる内部的な情報を持ち、それを次の計算に活かしていきます。そして、最終的に私たちが目にする「予測」という形で結果を出力するのです。

ここで問題になるのが、AIが「何を」学習しているのか、ということです。AIの学習では、「クロスエントロピー」という指標を使って、AIの予測がどれだけ正解に近いかを測ります。しかし、この研究によると、ループ型言語モデルで使われる「密な教師信号」という、つまり「ほぼ全ての情報を使って学習させる」方法では、AIの内部にある「全ての隠れ状態」をうまく制御できているわけではない、ということが分かってきました。むしろ、AIが最終的に「読み出す」部分、つまり私たちが見たり使ったりできる情報に直接関係する「一部の変数」だけを、クロスエントロピーが制御してしまっているようなのです。

さらに、AIの内部状態の「スケール」、つまり情報の「大きさ」や「影響力」のようなものが、意図しない失敗を引き起こす原因になることもあります。例えば、「RMSNorm」や「LayerNorm」といった、情報のスケールを一定に保つような仕組み（読み出し部分）を使うと、直接的な学習の指標であるクロスエントロピーは、このスケールの問題をうまく隠してしまいます。しかし、AIの内部では、このスケールがどんどん大きくなってしまい、最終的には数千倍、数万倍にも膨れ上がってしまうという現象が確認されています。これは、AIが本来持っているはずの「リカレント遷移」、つまり情報が順番に流れていく性質が、スケールを制御せずにそのまま引き継がれてしまうために起こります。

この「スケールが制御されない」という問題は、AIが学習を途中でやめてしまう「早期終了」を招く可能性があります。本来ならもっと賢くなれるはずなのに、内部の情報のスケールが大きくなりすぎて、うまく学習が進まなくなってしまうのです。まるで、たくさんの知識を詰め込みすぎて、頭がパンクしてしまうようなイメージでしょうか。

この研究は、AIの学習方法、特にループ型言語モデルにおける「見えない部分」の学習に、まだ多くの謎が残されていることを示唆しています。AIがより賢く、そして安定して学習していくためには、内部状態のスケールをどう管理するかが、今後の重要な課題となりそうです。