보관된 글 — US — turtlesai
코지토 v1: 오픈 소스 자기 개선 AI 출시
딥 코기토가 코기토 v1을 출시했습니다. 이는 3B에서 70B 파라미터로 이루어진 오픈 소스 대형 언어 모델(LLMs) 세트로, 자체 개선을 강화하는 '반복 증류 및 증폭(IDA)' 기술을 사용하여 훈련되었습니다. 이러한 모델들은 LLaMA와 같은 기존 모델들을 앞서며, Huggingface와 같은 플랫폼에서 이용할 수 있습니다. 미래에는 671B 파라미터까지 확장된 모델들이 계획되어 있으며, 일반 초인지능으로의 진화를 계속하고 있습니다.
핵심 정리
- 딥 코기토가 Cogito v1을 출시했습니다. 이는 3B에서 70B의 매개변수를 가진 오픈 소스 LLMs로 구성되어 있습니다.
- 훈련은 반복적인 자가 개선을 촉진하는 Iterated Distillation and Amplification (IDA) 기술을 사용했습니다.
- Cogito v1 모델은 다른 모델인 LLaMA, DeepSeek, Qwen과 비교했을 때 표준 벤치마크에서 높은 성과를 보여줍니다.
- 미래 계획은 671B 매개변수까지 확장된 더 큰 모델과 기존 모델의 향상된 버전을 포함하고 있습니다.
- 이러한 모델은 Huggingface, Ollama, Fireworks AI, Together AI와 같은 플랫폼에서 사용할 수 있습니다.
왜 중요한가
- Cogito v1의 출시는 자가 개선 및 모델의 견고성에 초점을 맞춘 AI 연구 트렌드와 부합합니다.
- IDA 기술은 모델 능력을 인간의 한계를 초월하도록 향상시킬 수 있는 잠재력으로 주목받고 있습니다.
- 과거의 AI 발전은 사용자 목표와 모델을 조정하는 데 도움이 되는 보다 효율적인 훈련 방법의 길을 열어두었습니다.
Cogito v1의 출시는 AI 기술의 현저한 발전을 상징하며 혁신적인 교육 방법을 통해 자가 성장을 촉진하고 오픈 소스 노력에 기여하며 일반 슈퍼인텔리전스 추구를 위해 더욱 강력한 모델을 발전시키는 무대를 구축합니다.