計算によるプロパガンダで事前学習データを汚染可能

最近、AI（人工知能）の賢さを支える「学習データ」が、実は悪意のある情報で汚染されているかもしれない、という研究が発表されました。AIが間違ったことや、場合によっては危険なことをするようになるかもしれない、という話です。

AI、特に文章を作ったり質問に答えたりするのが得意な「大規模言語モデル（LLM）」は、インターネット上にある膨大なテキストデータを読んで賢くなっています。でも、その学習データの中に、わざと作られた「偽情報」や「偏った意見」が紛れ込んでいたらどうなるでしょうか？

研究者たちは、インターネット上の情報交換の場、例えば掲示板やレビューサイトなどが、LLMの学習データに悪意ある情報を送り込むための「入り口」になりうることを突き止めました。私たちが普段見ているウェブサイトをAIが自動で集めて（クローリング）、学習データとして整理する過程で、こうした「汚染された情報」が知らず知らずのうちに取り込まれてしまうのです。

これはいわば、AIの「教科書」に間違った情報が書かれてしまうようなものです。その結果、AIが生成する文章がおかしくなったり、差別的な発言をしたり、あるいはもっと巧妙に人々を騙すような情報を作り出したりする可能性が出てきます。しかも、一度混入した偽情報を見つけ出して取り除くのは、とても難しいそうです。

この問題に対処するために、研究チームは「HalfLife」という新しい分析ツールを開発しました。これは、集められたデータの中に、どれくらいの割合で「怪しい情報」が含まれているかを測るためのものです。このツールを使えば、AIの学習データを作る前に、事前に「お掃除」をして、安全なデータだけを選び出す手助けになるかもしれません。AIの安全性を高めるための、まさに「見張り番」のような技術と言えるでしょう。

AIが私たちの生活にますます深く関わるようになる中で、その土台となる学習データの信頼性をどう守っていくのか、非常に重要な課題となっています。