보관된 글 — US — techcrunch
프랑스의 핫 스타트업 ZML, 다수의 AI 칩에서 추론 속도 향상 위해 무료 제품 출시
프랑스의 AI 스타트업 ZML은 ZML/LLMD라는 무료 추론 성능 소프트웨어를 출시했습니다. 이 소프트웨어는 다양한 대형 언어 모델이 여러 AI 칩에서 작동할 수 있도록 하여 AI 처리를 최적화하고 공급업체 락인을 줄이는 것을 목표로 합니다. Yann LeCun의 지지를 받으며, ZML은 특히 Nvidia와의 성장하는 AI 부문에서 기업들에게 칩 유연성을 제공하기 위해 노력하고 있습니다.
핵심 정리
- ZML/LLMD는 대규모 언어 모델을 위한 새롭게 출시된 추론 서버입니다.
- 이 소프트웨어는 Nvidia, AMD, Google TPU, Apple Metal, Intel Arc 등 다양한 칩에서 작동합니다.
- 목표는 공급 업체 간의 격리벽을 허물어 칩 활용도를 높이고 속도를 향상하는 것입니다.
- ZML은 비용 효율적이고 에너지 효율적인 AI 솔루션을 제공하려고 합니다.
- Steeve Morin은 유럽의 신흥 AI 칩 제조업체와 협력을 강조하고 있습니다.
- ZML은 주요 벤처 기업으로부터 2,000만 달러를 조달했습니다.
- 제품은 초기에는 사용자 상호작용을 학습하기 위해 무료로 제공됩니다.
- ZML은 Baseten, Inferact와 같은 기업들로부터 경쟁을 직면하고 있습니다.
왜 중요한가
- AI 추론 최적화는 모델이 일상생활에 점점 더 통합되면서 중요해지고 있습니다.
- AI 칩 제조업체의 부상은 AI 처리 능력 다변화의 더 큰 추세를 반영합니다.
- ZML의 개발은 Nvidia의 지배 속에서 AI 기술 민주화로의 전환을 강조합니다.
- '추론 골드러시'는 AI 처리 기술에 대한 투자 및 혁신이 증가하고 있다는 것을 나타냅니다.
ZML의 혁신적인 AI 추론 방법과 칩 유연성은 현재 시장 환경에 큰 파급력을 일으켜, 새로운 저비용 AI 기술의 파도를 일으키고 유럽 AI 스타트업의 성장을 촉진할 수 있습니다.