オンポリシー拡散蒸留における分類子フリーガイダンスの再考

最近のAI画像生成ツールが綺麗な画像を作り出せるのは、「分類子フリーガイダンス」という技術のおかげです。これは簡単に言うと、AIに「こんな画像は作らないで」という負の指示と「こんな画像を作って」という正の指示を同時に与えることで、より質の高い画像を生み出す仕組みです。Netflix推しのアニメ画像、綺麗な風景写真、こうした高品質な結果の背景には、この技術が働いています。

ところが、研究者たちが気付いた問題があります。それは、より高速で効率的にAIを学習させる「オンポリシー拡散蒸留」という新しい手法と、この品質チェック技術を組み合わせたときに、何か上手くいっていないということです。

イメージしてみてください。学校の先生（教師モデル）が優秀で、その先生の教え方を若い講師（学生モデル）が学ぶとします。でも、若い講師が「生徒にはこれは教えるな」という負の指示と「これは教えろ」という正の指示を同時に受け取ると、その両方の指示から学ぶとき、矛盾や相殺が起きてしまいます。間違った部分と正しい部分が打ち消し合って、本来学ぶべき大事なポイントが曖昧になってしまうわけです。

これが、現在のAI研究で起きている現象です。高速学習の効率性を求めるあまり、品質保証の部分で予期しない誤差が生まれている可能性がある、ということが明らかになってきました。

なぜこれが問題なのか。AIが描く画像の質を保ちながら、学習をもっと速く、効率的にしたいというのは、開発者たちの大きな課題です。スマートフォンで動くAI、小さなコンピュータで使えるAIを作るには、学習の効率化が必須です。でも、その過程で品質が落ちてしまっては本末転倒。この研究は、そのジレンマの真ん中にある盲点を指摘しているのです。

今後、どうやってこの問題を解くか。それは、AIの学習方法そのものを見直す必要があることを示唆しています。正の指示と負の指示を、もっと上手に統合する方法が必要かもしれません。あるいは、品質チェックと効率化を両立させるまったく新しいアプローチが求められるかもしれません。