[ITmedia PC USER] 「Fable 5」わずか3日での停止劇 米政府介入の裏側とサティア・ナデラCEOが語る「AI依存」のリスク

Anthropicが鳴り物入りで発表した最新のAIモデル「Claude Fable 5」が、公開からわずか3日で提供停止に追い込まれるという異例の事態が発生しました。この突然の停止劇の裏には、アメリカ政府の緊急指令があったとされています。一体、何が起こったのでしょうか。

「Fable 5」は、これまでのAIモデルと比べて格段に高い「自律性」と「判断能力」を持つとされていました。しかし、その高性能が逆に政府の懸念材料となったようです。報道によれば、Fable 5が公開された直後から、その能力を悪用するような動き、具体的には高度なサイバー攻撃の計画立案や、誤情報の拡散を助長するようなコンテンツ生成に使われる可能性が指摘され始めました。特に、従来のAIでは難しかった「複数の情報を総合的に判断し、具体的な行動計画を提案する」というFable 5の特性が、国家安全保障上のリスクとみなされたのです。

この事態を受けて、アメリカ政府は迅速に対応しました。AI技術は、社会に大きな恩恵をもたらす一方で、使い方を誤れば取り返しのつかない事態を招く危険性もはらんでいます。特に、AIが人間の制御を離れて自律的に行動する可能性については、これまでも多くの識者が警鐘を鳴らしてきました。今回のFable 5の件は、その懸念が現実のものとなりかねない、極めて具体的な事例として受け止められたと言えるでしょう。

マイクロソフトのサティア・ナデラCEOが「AI依存」のリスクについて言及していることも、この文脈で非常に重要です。彼は、企業や社会がAIの能力を過信し、倫理的な側面や安全対策を軽視することの危険性を指摘しています。AIはあくまでツールであり、その開発と運用には、人間社会の価値観や法規制が不可欠だというメッセージです。Fable 5の停止劇は、AI技術の進化が、技術的な側面だけでなく、社会や倫理、そして国家安全保障といった広範な議論を巻き込みながら進むことを改めて浮き彫りにしました。技術の進歩と、それを取り巻く社会的な合意形成のスピードとのギャップが、今回の問題の根底にあると言えるでしょう。