US — TechCrunch
아마존, 새 TorchNeuron 개발 도구로 엔비디아에 가장 큰 도전장
AI2분 읽기
아마존이 PyTorch로 만든 AI 앱을 자사 AI 칩 Trainium에서 쉽게 돌릴 수 있게 해 주는 개발 도구 TorchNeuron을 내놓았습니다. Nvidia가 AI 칩 시장에서 강한 이유인 소프트웨어 장점에 정면으로 도전하는 것입니다.
무슨 일이 있었나
아마존 웹 서비스(AWS)가 TorchNeuron이라는 새 개발 도구를 공개했습니다. AI 스타트업이 앱을 아마존의 Trainium 칩으로 옮기는 것을 돕는 도구입니다. 개발자는 설정 한 줄만 바꾸면 되고, 코드를 다시 쓸 필요가 없습니다.
주요 수치와 사실
- 아마존에 따르면 AI 앱의 약 85%가 PyTorch로 만들어집니다.
- PyTorch는 2022년부터 오픈소스 프로젝트를 관리하는 Linux Foundation의 일부입니다. 처음 개발한 곳은 페이스북입니다.
- AI 음성 앱 회사 Deepgram은 Trainium으로 옮긴 뒤 같은 돈으로 오디오를 70% 더 처리한다고 밝혔습니다.
- PyTorch로 만든 앱은 간단한 설정 변경만으로 AMD GPU나 애플 칩에서도 돌릴 수 있습니다.
Nvidia가 강한 이유
Nvidia의 CUDA는 앱이 Nvidia 칩에서 돌아가게 해 주는 소프트웨어입니다. Nvidia는 수년 동안 PyTorch가 CUDA와 잘 맞도록 해 왔습니다. 그래서 많은 AI 앱이 기본적으로 Nvidia 칩에서 가장 잘 돌아갑니다. 이것이 Nvidia가 AI 칩 시장의 1순위가 된 큰 이유입니다.
왜 중요한가
아마존은 Nvidia의 소프트웨어 우위를 깨려 하고 있습니다. 다른 칩으로 앱을 옮기기 쉬워지면 기업은 더 많은 선택지를 갖고 비용을 줄일 수 있습니다. 아마존은 PyTorch 코드를 바꿔 Nvidia에 덜 묶이게 하겠다고도 밝혔습니다. 다만 일부 전문가는 오히려 사용이 더 어려워질 수 있다고 우려하므로, 결과는 아직 불확실합니다.
앞으로 지켜볼 점
- 아마존의 PyTorch 코드 변경이 메인 프로젝트에 받아들여질지
- 스타트업이 실제로 Trainium으로 옮겨 비용을 아끼는지
- 개발자가 더 많은 선택지를 얻을지, 아니면 설정 문제만 늘어날지
용어 풀이
- TorchNeuron
- PyTorch 기반 AI 앱이 아마존 Trainium 칩에서 돌아가도록 돕는 아마존의 도구입니다.
- Trainium
- 아마존이 직접 만든 AI 모델 학습·실행용 맞춤형 칩입니다.
- PyTorch
- 개발자가 AI 모델을 만들고 학습하고 실행할 때 쓰는 무료 오픈소스 도구 모음입니다.
- CUDA
- 앱이 Nvidia 칩에서 돌아가도록 해 주는 Nvidia의 소프트웨어입니다.
- Linux Foundation
- 많은 오픈소스 소프트웨어 프로젝트를 관리하는 비영리 단체입니다.