AI企業Anthropic、METRに「従業員並み」アクセス付与

■ 背景: AI開発企業Anthropicが、AIの安全性評価を行う団体METRに対し、自社従業員と同等のアクセス権限を付与する異例の取り組みを開始した。METRの評価チームはAnthropicのオフィスに常駐し、端末や社内システムへのアクセスが許可される。これにより、AIモデルの潜在的なリスクや障害について、METRはAnthropicの意向に左右されず、独自に評価結果を公表することが可能となる。ただし、公表内容の伏せ字対応などの要請は可能だが、公表そのものを拒否する権限はAnthropic側には与えられないという。この動きは、AIの安全性と信頼性を確保するための、より踏み込んだ外部評価のあり方を示すものと言える。

■ なぜ重要か: この施策は、AI開発企業が自社技術の安全性評価において、外部機関に対してかつてないレベルの透明性とアクセス権限を提供することの重要性を示唆している。AI技術の急速な進化に伴い、その安全性や社会への影響に対する懸念も高まる中、開発企業自身がリスクを隠蔽せず、客観的な第三者による評価と、その結果の自由な公表を容認する姿勢は、業界全体の信頼性向上に不可欠である。Anthropicのこの決定は、AIの「ブラックボックス化」を防ぎ、社会がAIをより安全に利用・共存していくための重要な一歩と捉えられる。また、同様の取り組みを準備しているとされるOpenAIの動向と合わせて、AIの安全性評価における外部機関の役割と影響力が今後さらに増していく可能性を示唆している。

■ 編集部の見立て: AnthropicによるMETRへの「従業員並み」アクセス付与は、AI開発競争が激化する中で、安全性と信頼性をアピールする戦略的な一手であると編集部は見立てている。単なる技術的な優位性だけでなく、倫理的・社会的な側面での責任ある開発姿勢を示すことで、ユーザーや規制当局からの信頼を得ようとする狙いがうかがえる。METRが公表内容に拒否権がないという条件は、評価の客観性を担保する上で極めて重要であり、Anthropicが自社のAIモデルに対する自信の表れとも解釈できる。今後、同様の評価手法が業界標準となるか、あるいはAnthropicとMETRの関係性がAIの安全性向上にどのように寄与していくのか、その動向を注視していく必要がある。