Anthropic、社内情報を外部評価団体と共有しAI安全性を高める

■ 背景: Anthropicは、非営利のAI評価団体METRに社内のリスク評価チームに近いアクセス権を与えた。この措置により、外部評価者がAnthropicのAIモデルや安全対策を継続的に検証することが可能になり、AIの安全性と信頼性を高めることが期待される。

■ なぜ重要か: このような社内アクセス権の付与は、AI開発企業としては異例の措置である。Anthropicは、AIの安全性と信頼性を高めるために、外部の第三者機関との協力を進めており、今回のMETRとの提携もその一環である。AIの評価と検証を第三者機関に委託することで、AIの安全性と信頼性を高めることが可能になる。

■ 編集部の見立て: AnthropicのMETRへの社内アクセス権付与は、AIの安全性と信頼性を高めるための重要なステップである。ただし、社内情報の共有にはリスクも伴うため、Anthropicは情報の管理とセキュリティ対策を徹底する必要がある。