プライバシー制約下での実用的な公平性測定

AI（人工知能）が私たちの生活にどんどん入り込んでいる昨今、そのAIが、特定の人種や民族の人たちに対して、意図せず不公平な判断をしていないか、気になりますよね。特に、採用活動などでAIが使われる場合、その影響は大きいです。しかし、こうした公平性をチェックするためには、個人の人種や民族といった、とてもデリケートな情報が必要になります。プライバシーの観点から、これらの情報を直接集めて分析するのは、法律や倫理的な問題で難しい場合が多いのです。例えば、アメリカでは、人種や民族に関するデータは、集めること自体が非常にセンシティブな問題として扱われています。

そこで今回、研究者たちが考え出したのが、「プライバシー保護確率的人種/民族推定（PPRE）」という新しい方法です。これは、AIが公平かどうかを調べる際に、個人のプライバシーを守りながら、人種や民族に関する情報を推定しようという試みです。具体的には、2つの異なる情報源を使います。一つは、名前から出身地域を推測する技術（ベイジアン改良姓ジオコーディング推定器）で、もう一つは、実際に本人に尋ねた調査データ（自己申告による人口統計学のスパースゴールデン調査セット）です。

これらの情報源に、さらに高度なプライバシー保護技術、例えば、お互いの情報を明かさずに計算できる「セキュア2者間計算」や、ノイズを加えて個人が特定できないようにする「差分プライバシー」、そして、暗号化したまま計算ができる「加法準同型暗号化」といったものを組み合わせます。こうすることで、個人のプライバシーをしっかり守りつつ、アメリカ国内の人種や民族に関する公平性を測定できるようになるというのです。この研究では、候補者（AIに判断される側）と視聴者（AIの判断を見る側）の両方にとって、どのような公平性測定ができるのかを具体的に示しています。そして、この仕組みは、他の機関でも応用できるような、汎用的なフレームワークとして提案されています。AIの進化とともに、その公平性への配慮も、より高度な技術で実現されようとしているのです。