Anthropic、AIモデルの同一性を証明するシステムを開発中

何が起きたのか

Anthropic は火曜日のブログ記事で、AI の答えが本当に特定のモデルから出たものかを確かめる仕組みを発表しました。名前は FlashProve です。研究者はこれを「証明可能な推論」と呼んでいます。数学的な保証である暗号の証明を使って、受け取った答えが本物かどうかを確認できます。メールの電子署名のように、送り主のなりすましを防ぐ考え方です。

主な数字と事実

• AI の各モデルに「指紋」を公開し、出力と照合する仕組みです。
• 指紋はモデルの重み（振る舞いを決める内部の数値）を明かしません。
• 仕組みは軽く作られており、手元の端末で確認できます。
• 技術仕様と動くコードが GitHub で公開されています。
• 現時点で、Anthropic や他の企業に導入する予定はありません。

なぜこの仕組みが必要なのか

AI 企業は、モデルを安いものに密かに替えて費用を減らすことがあります。逆に、高性能なモデルを使ったように見せて成績を良く見せることもできます。FlashProve は、こうした不正を見抜くための道具になる可能性があります。また、第三者が「高性能な AI で確認した」と主張したときに、その主張が本当かを調べることもできます。

なぜ大事なのか

AI が仕事やソフトウェアの安全確認に使われるほど、「その答えは本当に正しいモデルが出したのか」という疑問が重要になります。FlashProve は、AI 企業自身が相手でも偽装を防げる点が特徴です。研究者は、まだ途中段階だと説明しています。だからこそ、他の人が見て改良できるよう、オープンソースで公開しています。

今後の注目点

• 他の研究者が仕組みを改良し、広く使われるかどうか。
• 商用の AI モデルが指紋を公開するかどうか。
• Anthropic が実際にこの仕組みを導入するかどうか。