보관된 글 — CN — technode
Ant Group, 중국 칩으로 AI 비용 20% 절감
앤트 그룹은 중국산 칩셋(알리바바와 화웨이)을 사용하여 AI 모델 훈련 비용을 20% 절감했습니다. 전문가 집합(MoE) 방법을 채택함으로써, 해당 기업은 Nvidia의 H800 칩과 비슷한 결과를 얻었으며, 고가의 GPU에 대한 의존도를 줄이려고 하며, Nvidia와 AMD 하드웨어를 계속 사용하지만, 비용이 비싼 GPU에 대한 의존성을 줄이기 위한 노력을 보이고 있습니다. 이는 Nvidia의 AI 발전 방식과 달라진 점입니다.
핵심 정리
- 앤트 그룹은 중국 칩을 사용한 AI 모델 훈련 기술을 개발했습니다.
- 알리바바와 화웨이의 반도체를 이용하여 20%의 비용 절감을 달성하였습니다.
- 전문가들의 혼합(MoE) 기계 학습 방법은 작업을 분할함으로써 효율성을 향상시킵니다.
- MoE 모델들이 기업 AI 분야에서 인기를 얻고 있습니다.
- 앤트의 훈련 결과는 엔비디아의 H800 칩과 비교될 수 있습니다.
- 앤트는 계속해서 엔비디아 하드웨어를 사용하고 있지만 고사양 GPU에 대한 의존을 줄이려고 합니다.
- 엔비디아 CEO 제인선 황은 고급 AI를 위한 강력한 칩이 반드시 필요하다고 주장하고 있지만, 앤트의 비용 절감 방침과는 상반됩니다.
왜 중요한가
- 현재 기업들이 인공지능 기술을 국지화하고 공급망 리스크를 줄이려는 추세와 일치하는 이동이다. 미중 기술 갈등의 맥락에서 중국 반도체 사용이 증가하고 있으며, 글로벌 반도체 부족 상황 속에서 국내 AI 칩 산업이 성장하고 있다. 기업들이 AI의 비용 효율성을 추구함에 따라 MoE와 같은 전략은 2025년까지 AI 시스템의 개발과 구현 방식을 형성할 수 있다.
앤트 그룹의 이번 계획은 국내 기술 활용으로의 중요한 전환을 보여주며, 인공지능 분야에서 비용 효율성과 혁신을 촉진하고, 글로벌 기술 환경에서의 이미 정립된 이야기에 도전하는 것을 보여줍니다.