「機械アンラーニング」という言葉はLLM分野で過剰に使われている

最近、AI、特に「大規模言語モデル（LLM）」と呼ばれる、まるで人間のように文章を作り出す賢いコンピュータープログラムについて、色々なニュースを目にする機会が増えましたよね。そんなLLMの世界で、今「機械アンラーニング」という言葉が、ちょっと使いすぎじゃない？と話題になっています。

そもそも「機械アンラーニング」って何でしょう？簡単に言うと、AIが学習した情報の中から、特定のデータだけを「忘れさせる」技術のことです。例えば、法律やルールを守るために、AIに教えてしまった良くない情報や、著作権に関わるデータを取り除きたい、といった場合に必要になります。まるで、人間が一度覚えたことを忘れたり、間違った記憶を訂正したりするのに似ていますね。

ところが、この「機械アンラーニング」という言葉、本来の意味とは少し違う使われ方が増えている、というのが今回の研究の指摘なんです。研究者たちは、この言葉は「指定されたデータだけを正確に消し去り、まるで最初からそのデータを知らなかったかのようにAIを元に戻す」という、とても厳密な状態になった場合にだけ使うべきだと主張しています。これは、あるデータセットでAIを再学習させた場合と、ほとんど見分けがつかないレベルまで戻す、という高度な技術を指すのです。

では、今「アンラーニング」と呼ばれているものの多くは、一体何なのでしょうか？研究者たちは、例えば「AIに危険な発言をさせないようにする」「特定の情報だけをAIから消す」「AIの特定の振る舞いを抑える」といった、様々な目的で使われている技術を挙げています。これらは、それぞれ目的が異なり、AIを「より良いものに調整する（アライメント）」、「特定の動作を抑える（抑制）」、「情報を書き換える（編集）」、「見えにくくする（難読化）」といった、別の言葉で表現すべきだと提案しています。つまり、全部ひっくるめて「アンラーニング」と呼んでしまうと、本来の厳密な意味がぼやけてしまう、というわけです。

なぜこんなことが起きているのでしょうか？LLMは、インターネット上の膨大な情報から学習しますが、その中には誤った情報や、法的に問題のある情報も含まれている可能性があります。そのため、AIを安全に、そして適切に利用するために、学習した内容を「修正」したり「削除」したりする必要が出てきたのです。しかし、その「修正」や「削除」のやり方や目的は様々。それらをすべて「アンラーニング」という一つの言葉でまとめてしまうと、技術の進歩や、それぞれの技術が持つ意味合いを正確に理解するのが難しくなってしまう、という懸念があるのです。