보관된 글 — US — techcrunch
DeepSeek, API 비용 절반으로 줄이는 '스파스 어텐션' 모델 출시
DeepSeek은 Sparse Attention 메커니즘을 통해 장문 텍스트 작업의 API 비용을 절반으로 줄이는 V3.2-exp 모델을 출시했습니다. 이 모델은 효율성을 위해 선택적 요약 우선순위를 위한 번개 인덱서와 섬세한 토큰 선택 시스템을 사용합니다. 또한 이 모델은 Hugging Face에서 오픈 소스로 제공되며, AI 추론 비용을 줄이기 위한 노력에서 제3자 테스트를 더욱 용이하게 합니다.
핵심 정리
- 딥시크가 허깅페이스에 모델 V3.2-exp을 공개했습니다.
- 해당 모델은 Sparse Attention을 특징으로 하며, 빠른 색인 검색을 통해 맥락 단편을 우선시합니다.
- 제한된 주의 창 안에서 효율적인 처리를 위해 세밀한 토큰 선택 시스템을 사용합니다.
- 최초 테스트 결과에서, 장문 맥락 작업의 API 호출 비용이 50% 감소될 수 있음을 나타냈습니다.
- 딥시크는 추론 비용을 줄이기 위해 트랜스포머 아키텍처의 효율성을 향상시키고 있습니다.
왜 중요한가
- 인공지능 연구의 지속적인 노력을 따라 이번 출시는 모델 규모가 커짐에 따른 운영 비용을 최소화하기 위한 것입니다.
- DeepSeek는 이전에 훈련 비용을 줄이도록 고안된 R1을 출시한 바 있어, 비용 효율적 혁신의 양상을 보여 주었습니다.
- 현재의 트렌드는 미국과 중국의 연구 기관 간 특히 글로벌 경쟁 속에서 효율적인 인공지능 모델의 필요성을 강조하고 있습니다.
DeepSeek's V3.2-exp은 AI의 API 비용을 줄이기 위한 혁신적인 방법을 도입하며, AI 분야에서 점점 치열해지는 경쟁 속에서 비용 효율성으로의 중요한 전환을 보여줍니다.