RAFT：ドメイン微調整のためのデータ精緻化と適応的蒸留（忘却緩和付き）

ニュース概要

ドメイン固有の教師あり微調整（SFT）は、しばしばドメイン内性能を向上させる一方で、モデルの一般的な能力を低下させます。本論文では、この低下を2つの実践的ギャップを通じて捉えます。ドメインターゲットがスタイルと推論形式において異なることに起因する、教師データ互換性ギャップです。