AnthropicのアモデイCEO、フロンティアAIに「航空機並みの安全審査」求めるエッセイと政策提言を公開

最近、私たちの生活にAIがどんどん入り込んできていますよね。スマートフォンのアシスタントから、文章を書いたり絵を描いたりするAIまで、その進化のスピードには目を見張るものがあります。そんなAIの最先端を走る企業の一つ、Anthropic（アンスロピック）のダリオ・アモデイCEOが、AIの安全についてとても大切な提言を発表しました。

彼は、AIの技術がものすごい勢いで進んでいるのに、それを管理するルール作りが追いついていない現状に警鐘を鳴らしています。例えるなら、新しい乗り物が発明されたのに、その乗り物が安全かどうかをチェックする法律や仕組みがまだない、といった状況です。特に、彼が「フロンティアAI」と呼ぶ、まだ開発途上ながら非常に高性能なAIモデルについて、もし悪用されたり、予期せぬ問題を起こしたりした場合のリスクを心配しているんです。

アモデイCEOが提案しているのは、「航空機並みの安全審査」をフロンティアAIに義務付けるというもの。航空機は、私たちの命を預かる乗り物ですから、開発から製造、運用に至るまで、非常に厳格な安全基準が設けられていますよね。何度もテストされ、何重ものチェックを経て、初めて空を飛ぶことを許されます。AIも、社会に大きな影響を与える可能性を秘めているからこそ、同じくらい慎重な安全確認が必要だという考え方です。

この提言の背景には、AIが単なる道具を超え、社会のインフラの一部になりつつあるという認識があります。例えば、自動運転車がAIによって動くようになれば、その安全性は航空機と同じくらい重要になります。また、AIが生成する情報が私たちの判断に影響を与えるようになれば、その情報が偏っていないか、あるいは誤ったものでないかを検証する仕組みも必要でしょう。

もちろん、AIの安全性を確保することは、開発のスピードを遅らせるのではないか、という意見もあるかもしれません。しかし、アモデイCEOは、長期的に見て、安全性を確保することがAI技術の信頼性を高め、結果としてより広く社会に受け入れられるための近道だと考えているようです。私たちの生活がAIによってより豊かになるためにも、開発者だけでなく、政府や私たちユーザーも一緒になって、AIの安全な未来を考える時期に来ていると言えるでしょう。