Anthropic、AIの正当性を暗号技術で証明する「FlashProve」を公開

■ 背景: Anthropicの「FlashProve」は、AIモデルの応答が指定したモデルによるものかを証明するシステムであり、ユーザーが応答の改ざんやモデルのすり替えを検知できるようにする。暗号技術「zkSNARK」を活用しており、中身を明かさず計算の正しさを証明することができる。AIの応答の信頼性とセキュリティを向上させるために、関連コードなどを研究用プロトタイプとして公開している。

AIの応答が改ざんされたり、モデルのすり替えが行われたりすることを防ぐことができるため、AIを使用する際のリスクを軽減することができる。さらに、zkSNARK技術を活用することで、計算の正しさを証明することができるため、AIの応答の正確性を高めることができる。

AIの応答の正当性を証明することで、AIの使用を拡大することができるため、ビジネスや研究などの分野で大きな影響を与える可能性がある。