制約された道徳性：道徳的計算の領域の定義

AI（人工知能）がますます賢くなるにつれて、人間のように「正しいこと」や「倫理的なこと」を判断できるようになるのか、という疑問がわいてきます。これまで、AIに倫理観を持たせるには、決められたルール（例えば「嘘をついてはいけない」）に従わせたり、結果が良くなるように計算させたり、といった方法が考えられてきました。でも、現実の世界には、もっと複雑で、状況によって判断が変わるような「あいまいな」道徳の問題がたくさんありますよね。こうした問題に、AIはどう向き合えばいいのでしょうか。

そんな中、新しい考え方として「制約された道徳性（Bounded Morality）」というフレームワークが提案されました。これは、AIが限られた能力の中で、どうやって道徳的な判断を下すのかを考えるためのものです。この考え方のヒントになったのは、ノーベル経済学賞を受けたハーバート・サイモンさんの「限定合理性」というアイデアです。サイモンさんは、人間はすべての情報を集めて完璧な判断をするのではなく、限られた情報と時間の中で「まあ、これくらいでいいか」と合理的な判断をする、と考えました。

「制約された道徳性」では、AIが直面する道徳的な問題を、「道徳的広さ」と「道徳的深さ」という2つの側面から捉えます。「道徳的広さ」というのは、どれだけたくさんの物事や人を道徳的な判断の対象として考えるか、ということです。例えば、自分の家族だけを考えるのか、それとも国全体、あるいは地球上のすべての生き物を考えるのか、といった違いです。「道徳的深さ」は、それらの対象が互いにどう影響し合うのかを、どれだけ深く、細かく分析できるか、ということです。複雑な人間関係や、長期的な影響などをどこまで考慮できるか、といったイメージです。

AIの計算能力や時間には限りがあるため、この「広さ」と「深さ」の両方を無限に追求することはできません。そこで、この2つの間には「トレードオフ」、つまりどちらかを重視するとどちらかが犠牲になる、という関係が生まれます。例えば、多くの対象（広い広さ）を考慮しようとすると、それぞれの関係性を深く分析する（深い深さ）余裕がなくなってしまう、といった具合です。

この「制約された道徳性」の考え方によれば、これまで「絶対的な正しさ」を追求してきた倫理理論（義務論、結果主義など）は、実はAIが限られたリソースの中で「局所的に効率的な戦略」、つまりその状況でうまく立ち回るための「手際の良いやり方」として機能する、と捉え直すことができます。これは、AIが完璧な道徳的真理にたどり着くことを目指すのではなく、限られた能力の中で、その場その場で「より良い」と判断できるような戦略を身につけていく、という考え方につながります。AIに倫理観を持たせるための、より現実的で柔軟なアプローチと言えるかもしれません。