Lưu trữ — US — techcrunch
Cỗ máy suy luận mới của Clarifai giúp AI nhanh hơn và tiết kiệm chi phí hơn
Clarifai đã giới thiệu một "reasoning engine" mới giúp tăng tốc độ hiệu suất mô hình AI lên gấp đôi và giảm chi phí điều này đi 40%. Bộ engine này sử dụng nhiều tối ưu hóa để suy luận trên các mô hình đã được huấn luyện, được xác minh bởi các benchmark từ bên thứ ba. Trong bối cảnh nhu cầu về cơ sở hạ tầng AI đang tăng, CEO Matthew Zeiler nhấn mạnh về tầm quan trọng của việc tối ưu hóa phần mềm cùng với việc tiến bộ về phần cứng.
Điểm chính
- Clarifai đã ra mắt một công cụ động cơ lý do mới được thiết kế để tăng tốc độ hiệu suất của mô hình trí tuệ nhân tạo.
- Công cụ này giúp tăng tốc độ suy luận lên đến 2 lần và giảm chi phí vận hành điều hành điều đó một 40%.
- Nó sử dụng các tối ưu hóa bao gồm các nhân CUDA và các kỹ thuật giải mã tiên đoán.
- Các bài kiểm tra thử nghiệm của Artificial Analysis đã xác nhận hiệu quả của nó trong sản lượng và độ trê trễ.
- Sự tập trung là tăng cường suy luận cho các mô hình phức tạp đòi hỏi các phản hồi đa bước.
- Sự ra mắt diễn ra trong một giai đoạn tăng trưởng đáng kể về nhu cầu cơ sở hạ tầng trí tuệ nhân tạo.
- Clarifai nhấn mạnh rằng các đổi mới phần mềm có thể giảm áp lực lên trung tâm dữ liệu.
Vì sao quan trọng
- Sự phát triển của công nghệ AI đã dẫn đến nhu cầu tăng về GPU và trung tâm dữ liệu.
- Điều này phù hợp với xu hướng CNTT đến năm 2025 nhằm tối ưu hóa cơ sở hạ tầng hiện có.
- Các khoản đầu tư lịch sử vào lĩnh vực AI (ví dụ kế hoạch 1 triệu đô la của OpenAI) cho thấy nhu cầu cao về tài nguyên máy tính.
- Phương pháp của Clarifai phản ánh xu hướng rộng hơn của ngành công nghiệp về các hoạt động AI bền vững.
Máy tính mới của Clarifai đại diện cho một sáng kiến quan trọng trong việc làm cho công nghệ AI hiệu quả và tiết kiệm chi phí hơn, đáp ứng nhu cầu gia tăng về cơ sở hạ tầng và gợi ý về các cải tiến thuật toán trong tương lai.