弱い批評家が強い学習者を作る: スケーラブルな監督のためのオンポリシー批評蒸留

ニュース概要

大規模言語モデルがより強力になるにつれて、弱い教師は複雑な出力に対して信頼できるラベル、選好、または最終判断を提供できず、弱から強への汎化とスケーラブルな監督の両方を制限する可能性があります。より扱いやすい弱い教師を使用する形式を研究します。