LLMが一貫して間違える方法を学ぶとき：合成的欺瞞の線形表現に関する複数モデル研究

ニュース概要

モデルが正確な内部表現を保持しながら意図的に虚偽の出力を生成する欺瞞的アライメントは、AI安全性における中心的な課題として残っている。戦略的欺瞞は長期的な主要な懸念であるが、合成的不誠実さ（不正解への直接的な最適化を通じて誘発される）について研究している。