EXPLORINEER
vi

Lưu trữ — CN — technode

Ant Group giảm 20% chi phí AI nhờ sử dụng chip nội địa Trung Quốc

Tập đoàn Ant đã giảm chi phí đào tạo mô hình AI của họ đi 20% bằng cách sử dụng vi mạch sản xuất tại Trung Quốc từ Alibaba và Huawei. Bằng cách sử dụng phương pháp gọi là sự kết hợp của các chuyên gia (MoE), công ty đã đạt được kết quả có thể sánh ngang với vi mạch H800 của Nvidia, nhưng vẫn tiếp tục sử dụng phần cứng của Nvidia và AMD nhằm mục tiêu giảm sự phụ thuộc vào GPU đắt tiền, khác biệt từ cách tiếp cận của Nvidia đối với sự tiến bộ trong lĩnh vực AI.

Điểm chính

  • Tập đoàn Ant đã phát triển công nghệ đào tạo mô hình trí tuệ nhân tạo bằng việc sử dụng chip Trung Quốc.
  • Giảm chi phí 20% đã đạt được với bán dẫn từ Alibaba và Huawei.
  • Phương pháp học máy, hỗn hợp chuyên gia (MoE), tăng cường hiệu suất bằng cách chia nhỏ công việc.
  • Các mô hình MoE đang được quan tâm trong cảnh quan AI doanh nghiệp.
  • Kết quả đào tạo của Ant tương đương với chip H800 của Nvidia.
  • Ant vẫn tiếp tục sử dụng phần cứng của Nvidia nhưng đang tìm cách giảm sự phụ thuộc vào GPU cao cấp.
  • CEO của Nvidia, Jensen Huang, lập luận về sự cần thiết của các chip mạnh mẽ cho AI tiên tiến, đối ngược với phương pháp cắt giảm chi phí của Ant.

Vì sao quan trọng

  • Điều này phản ánh xu hướng hiện tại của các công ty muốn địa phương hóa công nghệ trí tuệ nhân tạo và giảm thiểu rủi ro chuỗi cung ứng, đặc biệt là trong bối cảnh căng thẳng về công nghệ giữa Mỹ và Trung Quốc.
  • Việc sử dụng vi mạch từ Trung Quốc phản ánh sự phát triển mạnh mẽ của ngành chip trí tuệ nhân tạo nội địa trong bối cảnh thiếu hụt vi mạch toàn cầu.
  • Khi các công ty đẩy mạnh hiệu quả chi phí trong trí tuệ nhân tạo, các chiến lược như MoE có thể ảnh hưởng đến cách hệ thống trí tuệ nhân tạo được phát triển và triển khai vào năm 2025.

Sáng kiến của Tập đoàn Ant thể hiện một sự chuyển đổi đáng chú ý hướng tới sử dụng công nghệ nội địa trong lĩnh vực Trí tuệ nhân tạo, thúc đẩy hiệu quả chi phí và sáng tạo đồng thời đối mặt thách thức với các câu chuyện đã được cố định trong cảnh đồng công nghệ toàn cầu.