Anthropicの「一般公開版Mythos」、米国政府の指令により利用停止に(ギズモード・ジャパン)

皆さんは最近、人工知能（AI）の進化に驚かされることが多いのではないでしょうか。文章を作ったり、絵を描いたり、まるで人間のように考えているかのようなAIが次々と登場しています。そんな中、AI開発の最前線を走る企業の一つ、Anthropic（アンスロピック）が開発した新しいAIモデル「Fable 5」と、その一部を一般向けに公開した「Mythos 5」の利用が、アメリカ政府の指示によって停止されたというニュースが入ってきました。

これは一体どういうことなのでしょうか？

Anthropicは、安全性を重視したAI開発を掲げる企業として知られています。彼らが開発したAIは、非常に高性能でありながら、間違った情報や有害なコンテンツを作り出さないように、様々な工夫が凝らされているはずでした。しかし、今回問題になった「Fable 5」や「Mythos 5」は、その安全基準が十分ではないと判断されたようです。

特に注目すべきは、「Mythos 5」が「一部信頼できるユーザー向けに制限を緩めたバージョン」であった点です。これは、特定の専門家や開発者にはより自由度の高いAIを使ってもらい、そのフィードバックを開発に活かそうという意図があったのかもしれません。しかし、政府からすると、たとえ限定的な公開であっても、そのAIが社会に与える影響やリスクを無視できないと判断したのでしょう。

なぜ政府はこのような措置を取ったのでしょうか？

AIの技術は、私たちの生活を豊かにする一方で、使い方を誤ると社会に混乱をもたらす可能性も秘めています。例えば、偽のニュースを大量に生成したり、個人情報を悪用したり、あるいは国家間の安全保障に関わるような機密情報を扱ったりするかもしれません。アメリカ政府は、このようなリスクを未然に防ぎ、AIが社会に安全に組み込まれるように、厳しい目を光らせているのです。

今回のAnthropicの件は、AI開発企業と政府、そして私たちユーザーの間で、AIの安全性や倫理について、改めて深く考えるきっかけとなるでしょう。AIの進化は止められないものですが、その進化のスピードと安全性のバランスをどう取るか、世界中で議論が続いています。