自然なアングロキング：事前学習で生き残るルールの非対称制御

AI、特に文章を作るのが得意な「言語モデル」って、どうやって言葉を覚えるんだろう？って不思議に思ったことありませんか？まるで人間のように、最初は一生懸命ルールを学んでいくんですが、ある時、学んだはずのルールをポロッと忘れてしまう、そんなAIの学習の「落とし穴」が最近の研究で明らかになりました。

この研究では、比較的小さな言語モデルが、学習を始めたばかりの頃に「代名詞」や「性別」といった、言葉の基本的なルールをしっかり覚える様子が観察されました。例えば、「彼」と「彼女」の使い分けや、それに伴う言葉の変化などを、まるで一生懸命勉強する生徒のように習得していくんです。ところが、学習が進んでいくと、あれほどしっかりと覚えていたはずのルールが、いつの間にか消えてしまっていることが判明しました。

でも、ここで不思議なのが、ルールを忘れた後も、AIの成績表とも言える「損失曲線」には、特に大きな変化が見られないという点です。損失曲線というのは、AIがどれだけ間違えているかを示すグラフのようなもの。ルールを忘れてしまったのに、成績が下がらないというのは、一体どういうことなのでしょうか？

研究者たちは、この「ルールの忘れ方」が、AIが学習する「教材」、つまり訓練データの中に、そのルールがどれくらいの頻度で出てくるかによって決まるのではないかと考えています。もし、あるルールが教材の中にあまりたくさん出てこないと、AIはそれを一時的に覚えたとしても、後からもっと頻繁に出てくる他の情報に押されて、いつの間にか忘れてしまう。まるで、あまり使わない英単語を、試験が終わったら忘れてしまうのに似ているかもしれません。

この発見は、AIがどのように言葉を学習し、そして忘れてしまうのか、そのメカニズムを理解する上でとても大切な手がかりになります。AIがもっと自然で、賢く文章を作れるようになるためには、こうした「学習のクセ」を理解し、どうすればルールを忘れずに、長く記憶しておけるようにするかが、今後の大きな課題となりそうです。私たちが普段何気なく使っている言葉のルールを、AIがどう捉えているのか、想像すると面白いですね。