大規模言語モデルにおけるアライメント特性の測定、特定、および除去

ニュース概要

arXivで発表された論文：調整された言語モデルはしばしば認識可能なAI的スタイルを示すが、その訓練後処理と内部表現との関連性は十分に理解されていない。この研究では、訓練後処理がAI的文体規則性を導入または増幅するかどうか、また これらの規則性が局在化した表現を持つかどうかを調査している。