サイバーセキュリティ研究者、Anthropicの「Fable」のガードレールに不満

AI技術の進化は目覚ましいものがありますが、その利用には常に安全性の確保という課題がつきまといます。今回話題になっているのは、AI開発企業Anthropicが新たに発表したモデル「Fable」を巡る議論です。

サイバーセキュリティの研究者たちが、Fableに搭載された「ガードレール」、つまりAIが不適切な応答をしないようにする安全装置が、彼らの業務には厳しすぎると不満を表明しているとのことです。

サイバーセキュリティの世界では、悪意のあるソフトウェア（マルウェア）の分析や、システムの脆弱性を発見するために、あえて危険なコードを生成したり、攻撃的なシナリオをシミュレーションしたりする必要があります。これは、まるで医者が病原菌を研究するために、あえて危険な菌を扱うようなものです。しかし、Fableのガードレールは、そうした「危険を伴うが、防御のために必要な行為」までもを制限してしまうため、研究者たちは「これでは仕事にならない」と困惑しているわけです。

AI開発企業としては、AIが悪用されることを防ぎたいという強い思いがあります。例えば、AIが犯罪に利用されるようなコードを生成したり、差別的な発言をしたりすることは、社会的な信用を失い、規制の対象となるリスクがあります。そのため、AIの安全性を確保するためのガードレールは、非常に重要な機能です。

しかし、今回のように、特定の専門分野においては、そのガードレールが「善意の利用」までも妨げてしまうというジレンマが浮上しています。これは、AIの安全性を追求するあまり、その本来のポテンシャルを一部の重要な分野で発揮できなくしてしまう可能性を示唆しています。

この問題は、AIの「倫理」と「実用性」のバランスをどう取るかという、AI開発における根本的な問いを私たちに投げかけています。AIをより安全に、そしてより広く社会に役立てていくためには、このような専門的な用途におけるニーズをどのように組み込んでいくか、開発者と利用者、そして社会全体で議論を深めていく必要があるでしょう。

単に「危険だから」と一律に制限するのではなく、利用者の専門性と責任を考慮した、より柔軟なガードレールの設計が求められているのかもしれません。