情報格子学習を確率的グラフィカルモデルの構造学習として捉える

皆さんは、AIが「なぜそう判断したのか」を説明できたら、もっと安心して使えると思いませんか？

今回ご紹介する論文は、そんなAIの「判断の根拠」を分かりやすくする「情報格子学習（ILL）」という技術について、新しい解釈を提案しています。ちょっと難しそうなタイトルですが、要はAIが学んだことを、私たち人間が理解しやすい「確率的なグラフ」として表現できるようになった、という話です。

情報格子学習は、AIが大量のデータ（信号）から「ルール」を見つけ出すための手法です。例えるなら、ごちゃごちゃしたおもちゃ箱の中から、ブロックの種類や色ごとに分類し、それぞれのグループにどんな特徴があるか（これが「ルール」です）を学ぶようなものです。この分類の仕方を「抽象化の階層」と呼び、AIはこの階層を行ったり来たりしながら、データの隠れたパターンを探します。

これまでのILLでは、見つけ出されたルールはあくまで「決定論的」、つまり「こうなったらこうなる」というハッキリとしたものでした。しかし、今回の論文では、もしデータが「確率」で表現されるもの、例えば「この天気だと傘を使う確率が何%」といった曖昧さを含むものだった場合、ILLが学習したルールは「確率的なグラフィカルモデル（PGM）」として解釈できる、と述べています。

PGMとは、物事の因果関係や関連性を「確率」と「グラフ」で表現するモデルのこと。例えば、「晴れ」という情報が「洗濯物が乾く確率」にどう影響するか、といった関係を視覚的に分かりやすく示します。今回の論文は、ILLが見つけたルールが、実はこのPGMの「周辺法則」、つまり部分的な関係性を表していると説明しています。これにより、AIが「なぜこの結論に至ったのか」という判断のプロセスを、確率的な繋がりとして、より人間が理解しやすい形で示せるようになるのです。

AIがただ結果を出すだけでなく、その「思考プロセス」を説明できるようになることは、私たちの生活において非常に重要です。例えば、医療診断AIが「なぜこの病名を疑ったのか」を確率的な根拠とともに示せれば、医師はより安心してAIの判断を参考にできますし、私たちも納得して治療を受けられるでしょう。まさに、AIの「ブラックボックス問題」を解決し、信頼性を高める一歩となる研究と言えるでしょう。