不確実性定量化を伴う、人間ラベルフリーの解釈可能な深層学習によるリアル・ボガス分類

皆さんは、インターネットで画像や動画を見るとき、それが本物なのか、それとも誰かが加工したり、でっち上げたりした「ボガス」な情報なのか、どうやって判断していますか？

実は、AIの世界でも、大量のデータの中から「本物」と「偽物」を見分ける技術はとっても重要なんです。特に、科学の現場などで自動的にデータを集める仕組み（自動発見パイプライン）では、集まってきたデータが信頼できるものなのか、それともノイズや間違いなのかを判別する「リアル・ボガス分類」が欠かせません。

そんな中、AI分野の学術論文を公開するサイト「arXiv」で、ちょっと面白い研究が発表されました。それは、人間が「これは本物」「これは偽物」と一つ一つ教えなくても、AIが自分でデータの真偽を見分けられるようになる、新しい深層学習（ディープラーニング）の仕組みです。

この研究チームが開発した画期的な点は、学習に使うデータに、人間が事前に「これは本物」とか「これは偽物」といったラベル（目印）を付ける必要がないことです。通常、AIに学習させるには、たくさんのデータに正しい答えを付けた「正解集」が必要になります。でも、この新技術では、わざと作られた「トランジェント」と呼ばれるデータと、実際の観測データだけど少し「汚染」された（つまり、ノイズなどが混じって正確ではない）データを使います。これをAIに「こういうデータもあるよ」と見せるだけで、AIは「本物っぽいデータ」と「偽物っぽいデータ」の特徴を自分で掴んでくれる、というわけです。

さらにすごいのが、AIの予測がどれくらい信じられるのか、その「確からしさ」まで測れるようにした点です。AIの予測は、時々間違えることもあります。そこで、この研究では「MCドロップアウト」と「ディープアンサンブル」という二つの方法を試しました。そして、これら二つを組み合わせた「ハイブリッド戦略」が、AIの予測の確からしさをより正確に評価するのに有効であることを示唆しています。これは、AIが出した結果を人間が判断する際に、どの程度信用できるのかを知る手がかりになりますね。