보관된 글 — US — techcrunch
Microsoft, AI 추론용 강력한 신규 칩 발표
마이크로소프트가 Maia 200 칩을 출시했습니다. 이 칩은 100억 개가 넘는 트랜지스터로 인공 지능 추론을 최적화하기 위해 설계되었으며, 이전 모델인 Maia 100보다 성능 향상을 제공합니다. 이러한 발전은 기술 기업들이 자체 칩을 설계하여 NVIDIA에 대한 의존성을 줄이고 인공 지능 작업의 효율성을 향상시키는 추세와 일치합니다.
핵심 정리
- 마이크로소프트가 인공지능 추론을 위해 제작된 새로운 칩인 Maia 200을 발표했습니다.
- Maia 200은 1000억 개 이상의 트랜지스터를 탑재하여 4비트 정밀도에서 10 페타플롭스 이상, 그리고 8비트 성능에서 약 5 페타플롭스의 성능을 제공합니다.
- 이 새로운 칩은 운영 비용을 줄이고 인공지능 기업들을 위한 추론 프로세스를 최적화하는 것을 목표로 합니다.
- Maia 200은 아마존의 Trainium 칩보다 3배 높은 FP4 성능과 구글의 TPU보다 높은 FP8 성능을 보여줍니다.
- 이 칩은 이미 마이크로소프트의 슈퍼인텔리전스 팀과 코파일러를 통해 마이크로소프트의 AI 모델을 지원하고 있습니다.
왜 중요한가
- 구글, 아마존과 같은 대형 기술 기업들이 맞춤형 AI 칩에 투자하고 있다. 이는 산업 내에서의 경쟁적 변화를 반영하고 있다.
- AI 추론 비용을 최적화하기 위한 노력이 중요해지고 있는데, 이는 특히 운영 비용이 증가하면서 AI 산업이 성숙해지면서 그 중요성이 부각되고 있다.
- NVIDIA의 GPU는 많이 의존되고 있어, 기업들은 의존성과 비용을 완화하기 위한 대안을 설계하고 있다.
마이크로소프트의 AI 기술을 크게 발전시킨 Maia 200 칩은 사용 효율성을 높이고 제3자 하드웨어에 대한 의존을 줄이기 위해 커스텀 실리콘 개발에 대한 산업 흐름과 일치하고 있다.