Anthropic, AI 모델의 신원을 증명하는 시스템 개발 중

무슨 일이 있었나요?

Anthropic은 화요일 블로그 글에서 FlashProve라는 시스템을 공개했습니다. 이 시스템은 '증명 가능한 추론'이라고 부르는 기술로, 어떤 결과물이 특정 모델에서 나왔다는 것을 암호학적 증명으로 보여 줍니다. 이메일에 붙는 전자서명이 보낸 사람을 확인해 주는 것과 비슷합니다. 회사 자신이 모델을 바꿔 치기하려 해도 막을 수 있도록 설계되었습니다.

핵심 사실

• 모델을 몰래 싼 모델이나 비싼 모델로 바꾸는 행위를 막을 수 있습니다.
• AI 회사는 모델마다 '지문'을 공개해야 합니다. 이 지문은 나중에 결과물과 맞춰 확인하는 데 쓰입니다.
• 지문에는 모델의 '가중치'가 드러나지 않습니다. 가중치는 모델이 어떻게 행동할지 정하는 내부 숫자로, 회사가 가장 중요하게 여기는 비밀입니다.
• 시스템은 가볍게 만들어져 개인 기기에서도 검증할 수 있습니다.
• 연구 코드와 기술 명세는 GitHub에 오픈소스 라이선스로 공개되어 있습니다.

왜 이런 시스템이 필요할까요?

AI 회사는 비용을 줄이려고 더 싼 모델을 몰래 쓸 수 있습니다. 반대로 성능을 높아 보이게 하려고 더 비싼 모델을 쓸 수도 있습니다. 사용자는 이런 차이를 알기 어렵습니다. 또 개발자나 기업이 '고급 AI가 검토했다'고 주장할 때도, 그 말이 사실인지 확인할 방법이 필요합니다.

왜 중요할까요?

AI 결과를 믿고 쓰는 사람이 늘수록, 결과가 어디서 왔는지 확인하는 일도 중요해집니다. 이 기술이 널리 쓰이면 AI 회사와 사용자 사이의 신뢰를 높일 수 있습니다. 다만 연구는 아직 진행 중이며, Anthropic이나 다른 회사가 이 시스템을 실제로 사용한다는 계획은 아직 없습니다. 연구자들은 다른 사람들이 이 작업을 가져다 발전시켜 주기를 바란다고 밝혔습니다.

앞으로 지켜볼 점

• 다른 연구자들이 FlashProve 코드를 어떻게 발전시키는지
• AI 회사들이 모델 지문을 실제로 공개하는지
• 상용 모델에도 이 방식이 적용될 수 있는지