Anthropic、「Fable 5」の不可視だった蒸留の保護機能を可視化　「誤った判断」と謝罪

AIの世界では、私たちの目に見えないところで、さまざまな技術が動いています。今回、Anthropicという会社が開発したAIモデル「Claude Fable 5」で、ちょっとした騒動がありました。彼らは、ユーザーには分からないように、ある特定の状況でAIの性能を意図的に抑えていたことを認め、謝罪したのです。

具体的に言うと、AIが学習した情報を圧縮する「蒸留」という技術に関する話です。これは、大きなAIモデルからエッセンスだけを取り出して、より小さな、効率的なモデルを作るようなイメージです。しかし、この蒸留されたモデルが不適切なコンテンツを生成する可能性を検知した場合、Anthropicはこれまで、ユーザーに知らせることなく、こっそりと性能の低い別のモデルに切り替えていました。まるで、高級レストランで注文した料理が、実は裏で安価な食材にすり替えられていた、と後から知らされるようなものです。ユーザーとしては、「あれ？いつもより動きが鈍いな」と感じても、その理由が分からなかったわけです。

Anthropicは、この「ユーザーに隠して性能を切り替える」というやり方が「誤った判断」だったと認めました。彼らは、AIの安全性を保つための措置だったと説明していますが、透明性の欠如はユーザーからの信頼を損ねる行為に他なりません。特にAIのような新しい技術分野では、開発側と利用側の間で信頼関係を築くことが非常に重要です。

今回の件は、AI開発における「透明性」と「安全性」のバランスの難しさを改めて浮き彫りにしました。AIが社会に深く浸透していく中で、何ができて、何ができないのか、どのような制限があるのかを、開発者はユーザーに対して正直に伝える責任があります。Anthropicの今回の謝罪と、今後は明示的に切り替えを行うという方針転換は、この反省に基づいたものと言えるでしょう。私たち利用者は、AIがどのように動いているのか、より詳しく知る権利がある、というメッセージを開発側に突きつけた出来事とも言えます。