AI自律システムのガバナンスモデルとして、エージェントではなく「統治行為」と「制度的証明」

AIがどんどん賢くなって、自分で考えて行動できるようになってきました。例えば、お医者さんの代わりに薬の処方を決めたり、会社のシステムに新しいプログラムを導入したり。こうしたAIの行動は、一度実行されると元に戻すのが難しい、いわば「取り返しのつかない」結果を生む可能性があります。

そこでこの記事では、AIをどうやってうまく「管理」していくか、新しいアイデアを提案しています。これまでの私たちの社会の仕組み、例えば法律や制度を参考にしているのが面白いところです。人間社会では、何か重要な決定をする前に、その理由や根拠を事細かく監視するのではなく、最終的な「行動」そのものに対して、それが正しい証拠があるかどうかを厳しくチェックしてきました。例えば、裁判で判決が出た後、なぜその判決になったのかを裁判官の頭の中まで調べるのではなく、判決という「結果」とその根拠となる証拠がきちんと示されているか、という形でチェックしますよね。

この考え方をAIの世界に応用しようというのです。提案されているのは、「エージェント（AI自身）」に計画や判断をすべて任せるのではなく、AIが何か重大な行動を起こそうとしたときに、その実行を「待った」させる仕組みです。AIは自分で考えますが、実行権限は持たせない。そして、実行するためには、いくつかの厳しい条件を満たす必要がある、というわけです。

具体的には、まず「別の信頼できる情報源」が、その行動が正しいという証拠を独立して示さなければなりません。さらに、その証拠は、AIが最初から意図していたことと、暗号技術を使って結びつけられ、決められたルール（決定論的ポリシー）に従って評価されます。まるで、AIが勝手に動かないように、厳格な「門番」が複数いるようなイメージです。

そして、AIが行ったすべての行動や、それを裏付ける証拠は、改ざんできない記録（改ざん防止ログ）に残されます。これにより、後から誰でもその記録をチェックできるようになり、透明性が保たれます。この記事では、実際にこの仕組みをコンピューターで試してみた結果も示されており、ソフトウェアの導入や、医療現場での処方といった、実際に私たちの生活に関わる場面で、この管理モデルがどのように役立つのかが説明されています。

AIが高度化するにつれて、その行動をどう管理するかが大きな課題となっています。この「統治行為」と「制度的証明」という考え方は、AIの自律性を認めつつも、暴走を防ぎ、安全に社会に組み込んでいくための、一つの有望なアプローチと言えるでしょう。