EXPLORINEER
vi

Lưu trữ — US — turtlesai

Chuẩn Đo AI Mới: Hiệu Suất Mô Hình Llama 3.1 và Tốc Độ Chip Nvidia Blackwell Trong Các Bài Test MLPerf

MLCommons đã ra mắt hai bài kiểm tra hiệu suất AI: một với mô hình Llama 3.1 của Meta và một khác dành cho ứng dụng AI tiêu dùng. Platform Blackwell của Nvidia đã vượt qua các thế hệ trước đó, đạt tốc độ nhanh hơn lên đến 3,4 lần. AMD không đệ trình kết quả, nhấn mạnh sự khác biệt trong thị trường. Những bài kiểm tra này nhằm tối ưu hóa thời gian phản hồi cho các công cụ AI như ChatGPT, nhấn mạnh nhu cầu ngày càng tăng về công nghệ AI.

Điểm chính

  • MLCommons đã giới thiệu hai tiêu chuẩn đánh giá trí tuệ nhân tạo mới: một dành cho hiệu suất trí tuệ nhân tạo tổng quát sử dụng Llama 3.1 và một tập trung vào thời gian phản hồi trí tuệ nhân tạo dành cho người tiêu dùng.
  • Nền tảng Blackwell của Nvidia đã thể hiện mức tăng hiệu suất từ 2.8 đến 3.4 lần so với các mô hình trước đó trong các bài kiểm tra MLPerf, làm nổi bật tốc độ kết nối chip được cải thiện.
  • AMD không cung cấp kết quả cho các tiêu chuẩn đánh giá, có thể cho thấy sự khác biệt chiến lược trong việc họ tập trung vào công nghệ trí tuệ nhân tạo.
  • Các tiêu chuẩn đánh giá này giải quyết nhu cầu về khả năng phản hồi nhanh chóng trong các ứng dụng trí tuệ nhân tạo, đặc biệt là cho các công cụ như ChatGPT, phản ánh nhu cầu người dùng ngày càng tăng.

Vì sao quan trọng

  • Nhu cầu về ứng dụng trí tuệ nhân tạo (AI) đã tăng mạnh kể từ khi ChatGPT ra mắt, buộc các công ty công nghệ phải nâng cao khả năng phần cứng.
  • Những nỗ lực lịch sử trong tối ưu hóa AI đã chỉ ra sự ưu tiên trong việc phát triển các tiêu chuẩn để đo lường hiệu suất.
  • Xu hướng vào năm 2025 cho thấy sự tập trung vào việc tối ưu hóa độ trễ và tốc độ trong các ứng dụng AI dành cho người tiêu dùng, trực tiếp liên quan đến các tiêu chuẩn hiệu suất được giới thiệu.

Các bài kiểm tra mới của MLCommons đánh dấu một bước quan trọng trong việc đánh giá hiệu suất trí tuệ nhân tạo, thúc đẩy sự tiến bộ trong phần cứng để đáp ứng sự mong đợi ngày càng tăng về tốc độ và hiệu quả trong các ứng dụng dành cho người tiêu dùng, đặc biệt là trong bối cảnh vai trò phổ biến của trí tuệ nhân tạo trong công nghệ hàng ngày.