Anthropic、外部のAI監視団体に「従業員に準じた」アクセス権を付与

何が起きたのか

Anthropicは、外部の評価者に「社員に近いアクセス」を与えました。評価者は、AIモデルのリスクを調べます。非営利団体METRのチームが、Anthropicの事務所に入り、機械（ハードウェア）と社内システムを使えるようになりました。これは、同社が安全対策を強める約束を守る最初の一歩です。

背景を知ろう

METRは、OpenAI、Anthropic、Google、Metaなどの大手AI会社と以前から協力してきました。AIが強くなるほど、経済やサイバーセキュリティ、人類全体にとって危険になる心配が高まっています。そのため、会社の外にいる第三者が調べる役割が大事だと考えられています。2025年9月には、Anthropicのダリオ・アモデイCEOが、外部の監査人を大手AI会社に入れる案を出しました。OpenAIのサム・アルトマンCEOとSpaceXのイーロン・マスク氏も、この案を支持しました。

押さえたい数字と事実

• METRは、OpenAI、Anthropic、Google、Metaと協力してきた非営利団体です。
• Anthropicは、外部評価者に社員に近いアクセスを与えました。
• アモデイCEOの提案は、2025年9月に、アルトマン氏とマスク氏の支持を受けました。
• OpenAIは、外部評価者を入れる計画をまだ示していません。

なぜ大切なのか

AI会社が自分だけで安全を判断すると、外から見えにくくなります。外部の目が入ることで、会社の判断を確かめやすくなります。一方で、批判する人もいます。評価者と会社の間に利害の対立が起きるかもしれないからです。また、政府による規制をもっと強くすべきだという意見もあります。Anthropicは、評価者の仕組みは銀行の検査に似ていると説明しています。銀行の検査では、規制当局が大きな銀行の中に常駐の検査官を置きます。

これから注目したいこと

• OpenAIが外部評価者を入れる計画を発表するかどうか。
• METRのチームが、どのようなリスクを見つけて公表するのか。
• 政府がAI会社への規制を強めるかどうか。
• 外部評価者と会社の利害の対立をどう防ぐのか。