Amazon tung công cụ phát triển TorchNeuron, thách thức Nvidia mạnh nhất từ trước đến nay

Chuyện gì đã xảy ra

Amazon Web Services (AWS) đã phát hành công cụ mới tên TorchNeuron. Công cụ này giúp các startup AI chuyển ứng dụng sang chip Trainium của Amazon. Lập trình viên chỉ cần đổi một dòng cấu hình, không cần viết lại mã.

Số liệu chính

• Amazon cho biết khoảng 85% ứng dụng AI được viết bằng PyTorch.
• PyTorch do Facebook phát triển ban đầu. Từ năm 2022, nó thuộc Linux Foundation.
• Deepgram, công ty ứng dụng giọng nói AI, cho biết họ xử lý nhiều hơn 70% âm thanh trên mỗi đô la sau khi chuyển sang Trainium.
• Ứng dụng PyTorch cũng có thể chạy trên GPU của AMD hoặc chip của Apple chỉ với một thay đổi cấu hình đơn giản.

Vì sao Nvidia mạnh đến vậy

CUDA của Nvidia là phần mềm giúp ứng dụng chạy trên chip Nvidia. Trong nhiều năm, Nvidia đã làm cho PyTorch hoạt động tốt với CUDA. Nhờ vậy, nhiều ứng dụng AI mặc định chạy tốt nhất trên chip Nvidia. Đây là lý do lớn khiến Nvidia trở thành lựa chọn hàng đầu cho chip AI.

Vì sao điều này quan trọng

Amazon đang cố phá thế mạnh phần mềm của Nvidia. Nếu việc chuyển sang chip khác trở nên dễ dàng, doanh nghiệp có thể có thêm lựa chọn và chi phí thấp hơn. Amazon cũng nói sẽ sửa mã PyTorch để nó bớt phụ thuộc vào Nvidia. Tuy nhiên, một số chuyên gia lo rằng điều này có thể khiến việc sử dụng khó hơn, nên kết quả vẫn chưa rõ.

Cần theo dõi

• Các thay đổi mã của Amazon cho PyTorch có được dự án chính chấp nhận hay không.
• Các startup có thực sự chuyển sang Trainium và tiết kiệm chi phí hay không.
• Lập trình viên có thêm lựa chọn hay chỉ thêm rắc rối cấu hình.