AIエングラム：人工知能における記憶痕跡の探求

皆さんは、何かを覚えたり、思い出したりするとき、脳の中で何が起きているか考えたことはありますか？私たちは日々、たくさんの情報を記憶し、必要に応じてそれらを取り出して使っています。この「記憶」という能力は、人間が賢く活動するための、まさに土台となるものです。

近年、めざましい発展を遂げている人工知能（AI）も、学習を通じて知識を蓄え、それを使っています。特に、ディープニューラルネットワークと呼ばれるAIの仕組みは、まるで人間の脳の神経細胞のつながりのように、複雑な情報を処理します。しかし、AIが覚えた知識が、私たちの脳の「記憶の痕跡」（専門用語では「エングラム」と呼びます）のように、特定の場所に、明確な形で残っているのかどうかは、これまでよく分かっていませんでした。

今回の研究は、まさにこの疑問に挑戦したものです。研究者たちは、神経科学、つまり脳の科学で使われる「記憶の痕跡」を見つけるための基準をAIの世界に応用しました。具体的には、「特異性」（特定の記憶だけが反応する）、「再活性化」（記憶が呼び起こされる）、「十分性」（その記憶だけで情報が足りる）、「必要性」（その記憶がなければ情報が足りない）という４つの基準を設け、これらをAIの記憶を探すための「手がかり」としました。

そして、AIが学習した情報の中から、これらの基準を満たす「AIエングラム」を特定するための、数学的な方法を開発しました。驚くべきことに、この方法を使うと、AIが学習したたくさんの知識がごちゃ混ぜになっている状態からでも、個々の記憶をまるで外科手術のようにピンポイントで取り出したり、消したり、あるいは組み合わせて新しい記憶を作ったりできるというのです。しかも、繰り返しAIに学習させ直す必要がなく、簡単な計算で操作できるというから驚きです。

この技術は、簡単なAI（MLPと呼ばれるもの）から、最近話題の高度な大規模言語モデル（LLM）まで、幅広いAIで効果があることが確認されています。これは、AIがどのように知識を記憶し、それを活用しているのかという、AIの「頭の中」を理解するための大きな一歩と言えるでしょう。また、人間の脳の記憶の仕組みとAIの学習の仕組みの間に、共通する原理がある可能性を示唆しており、生物学とAIの研究を結びつける架け橋となるかもしれません。私たちがAIとより深く付き合っていく上で、その「記憶」の仕組みを理解することは、より安全で信頼できるAIを開発するために不可欠な視点となるはずです。