テキストをマルチプレックスグラフにマッピング：レヴィウォーク誘導グラフ枝刈りによるプロンプト圧縮

AIの進化は目覚ましいですが、その裏側では、AIがより賢く、より効率的に情報を扱えるようにするための研究が日々進められています。今回ご紹介するのは、AIが文章（プロンプト）を理解する際の「無駄」をなくし、より重要な情報だけを効率的に引き出すための新しいアイデアです。

皆さんがAIに何かを指示する時、その指示文のことを「プロンプト」と呼びます。AIはこのプロンプトを元に、質問に答えたり、文章を作成したりします。しかし、プロンプトが長くなると、AIはどこに重要な情報があるのか迷ってしまうことがあります。そこで、長くて冗長なプロンプトを短くする「プロンプト圧縮」という技術が研究されています。これまでの圧縮方法では、文章を単語の羅列（トークンシーケンス）として扱ってきました。でも、文章というのは、単語のつながりだけでなく、単語同士が離れていても意味でつながっていたり、文全体で一つの意味を持っていたりしますよね。こうした、文章の複雑な「つながり」を、これまでの方法ではうまく捉えきれていなかったのです。

そこで、今回の研究では、文章のつながりを「グラフ」という形で表現することを提案しています。グラフというのは、点（ノード）と線（エッジ）で物事の関係を表す図のこと。この研究では、単語や文を点、それらの関係性を線として捉え、さらに「細かな文法的なつながり」と「大きな意味でのつながり」という、二つの異なる種類の関係性を重ね合わせた「マルチプレックスグラフ」という特別なグラフを使います。まるで、地図上に、道路網（細かなつながり）と、主要な鉄道路線（大きなつながり）が両方描かれているようなイメージです。

この複雑なグラフの中から、AIにとって本当に必要な情報（冗長でないノード）を見つけ出すために、「レヴィウォーク」というユニークな方法が使われています。レヴィウォークは、グラフ上を歩く際に、近いところをちょこちょこ歩いたり、遠くまで一気にジャンプしたりと、その歩き方に特徴があります。この「歩き方」が、グラフの局所的な詳細と、全体的な構造の両方をバランス良く探索するのに役立つと考えられています。つまり、文章の細かい部分と、文章全体の意味の両方を、効率的に把握できるというわけです。

この新しいアプローチ「RAGP」は、AIがより少ない情報で、より多くの意味を理解する手助けとなり、将来的には、AIの応答速度の向上や、より複雑な指示への対応能力の向上につながることが期待されます。