Lưu trữ — US — techcrunch
Anthropic’s new Citations feature aims to reduce AI errors
오픈AI의 Operator 관련 주목을 돌릴 것으로 보이는 앵소픽(Anthropic)이 목요일, 개발자 API에 'Citations'라는 새로운 기능을 발표했다. Citations은 Claude AI 패밀리로부터 답변을 "근거"를 낼 수 있도록 해주는 기능으로, 메일 등 소스 문서에서 정확한 문장과 구절을 인용할 수 있다. Citations은 앵소픽의 API와 Google의 Vertex AI 플랫폼에서 이용 가능하며, 개발자들은 소스 파일을 추가해 모델이 추론한 주장을 자동으로 인용할 수 있다. Citations은 Claude 3.5 Sonnet 및 Claude 3.5 Haiku에서 사용 가능하며, 요금은 소스 문서의 길이와 수에 따라 부과될 수 있다.
최근 트렌드와 인사이트를 바탕으로 해당 주제를 간단히 분석해 보면, Anthropic의 Citations 기능은 딥 러닝 모델의 신뢰성과 투명성을 강화하는 측면에서 중요한 발전으로 평가될 수 있습니다.
심층적인 AI 모델인 Claude 시리즈에 기반한 Citations는 원본 문서를 참조하여 답변의 근거를 제시할 뿐만 아니라, 문장이나 단락의 정확한 출처를 제공함으로써 모델이 생성한 결과물을 실체화하는 데 도움을 줍니다. 이는 정보의 신뢰성을 높이고 사용자들이 모델의 결론을 이해하는 데 도움이 될 것으로 기대됩니다.
Anthropic의 Citations는 문서 요약, 질의응답, 고객 지원과 같은 다양한 응용 분야에서 유용하게 활용될 수 있다고 설명됩니다. 특히 사용자들이 소스 출처를 확인하고 모델이 어디서 정보를 추론했는지 이해할 수 있도록 하는 데 도움이 되는 것으로 보입니다.
그러나 Citations가 일부 모델에만 제공되고 무료가 아닌 점은 주목할 만합니다. 현재 Citations는 Claude 3.5 Sonnet 및 Claude 3.5 Haiku에만 적용되며, 소스 문서의 길이와 양에 따라 요금이 부과된다는 점을 고려해야 합니다.
Citations의 경우 약 100페이지 소스 문서에 대해 Claude 3.5 Sonnet으로는 약 0.30달러, Claude 3.5 Haiku로는 약 0.08달러의 비용이 발생한다고 합니다. 하지만 이는 허구나 다른 AI가 유발할 수 있는 오류를 줄이려는 의도에서는 가치 있는 투자라고 볼 수 있습니다.
Overall, Anthropic의 Citations은 AI 모델의 신뢰성 확보와 사용자 이해도 향상에 긍정적인 영향을 미칠 것으로 보입니다. 그러나 이러한 혁신적인 기능을 효율적으로 활용하기 위해서는 개발자들이 Citations의 비용과 이점을 신중히 고려해야 할 것입니다.