Anthropic, 외부 AI 감시 기관에 “직원에 준하는” 접근 권한 부여

무슨 일이 있었나요?

앤트로픽은 외부 평가자에게 회사 직원과 비슷한 접근 권한을 주었습니다. 이들은 AI 모델의 위험을 살펴보는 일을 합니다. 비영리 단체 METR의 팀이 앤트로픽 사무실 안에 들어가 회사의 장비와 내부 시스템을 쓸 수 있게 되었습니다. 앤트로픽은 AI가 통제를 벗어날 수 있다는 걱정에 대응하겠다고 약속했었고, 이번 조치는 그 약속을 지키는 첫걸음입니다.

핵심 사실

• METR은 OpenAI, 앤트로픽, 구글, 메타 같은 주요 AI 회사와 함께 일해 온 비영리 단체입니다.
• 앤트로픽의 다리오 아모데이 최고경영자는 9월에 외부 감사자를 주요 AI 회사 안에 두자는 제안을 했습니다.
• 샘 올트먼(OpenAI)과 일론 머스크(SpaceX)도 이 제안을 지지했습니다.
• OpenAI는 아직 외부 평가자를 데려올 계획을 발표하지 않았습니다.

왜 외부 평가자가 필요할까요?

AI는 점점 더 똑똑해지고 있습니다. 그래서 경제, 사이버 보안, 사람들에게 미칠 위험도 커지고 있습니다. 회사 스스로만 위험을 확인하면 믿기 어렵다는 말이 많습니다. 그래서 회사 바깥의 전문가가 직접 살펴보는 방식이 주요 해결책으로 나오고 있습니다.

왜 중요할까요?

AI 회사가 외부 감시를 받아들이는 것은 중요한 변화입니다. 다만 비판도 있습니다. 평가자와 회사가 이해관계가 얽힐 수 있다는 우려가 있고, 정부가 더 강하게 규제해야 한다는 주장도 나옵니다. 앤트로픽은 정보를 모두 공개하면 나쁜 사람이나 경쟁자가 이용할 수 있다고 말합니다. 대신 은행을 감독하는 방식처럼, 규제 기관이 큰 은행 안에 상주 검사관을 두는 것과 비슷하게 운영하겠다고 밝혔습니다.

앞으로 지켜볼 점

• OpenAI가 외부 평가자를 실제로 데려올지 여부
• METR 같은 평가자가 얼마나 독립적으로 일할 수 있을지
• 정부 규제가 더 강화될지 여부