Xây dựng nhà máy AI ở quy mô doanh nghiệp

Chuyện gì đã xảy ra?

ASUS đang đẩy mạnh việc đưa AI vào các doanh nghiệp. Tại sự kiện GTC của NVIDIA ở Berlin hồi tháng 10, ASUS giới thiệu một gói AI doanh nghiệp gồm ba phần: máy chủ AI và hạ tầng, phần mềm để quản lý quy trình AI, và một bộ phận dịch vụ giúp kết nối tất cả lại với nhau. Theo ASUS, đây là lúc phù hợp để đưa ra một giải pháp trọn gói như vậy.

Những con số đáng chú ý

• Thị trường máy chủ toàn cầu tăng 30% trong một năm, đạt 122,6 tỷ USD trong quý đầu năm 2025, theo công ty phân tích IDC.
• IDC dự đoán suy luận (inference, tức là AI trả lời và xử lý dữ liệu sau khi đã được huấn luyện) sẽ chiếm hơn 70% nhu cầu tính toán vào năm sau.
• Sự kiện GTC của NVIDIA diễn ra ở Berlin vào ngày 21–22 tháng 10.

Vì sao doanh nghiệp muốn tự xây hạ tầng AI?

Trước đây, phần lớn việc đầu tư vào hạ tầng AI dành cho các nhà cung cấp đám mây lớn. Nay các công ty cũng muốn tự chạy AI trong nội bộ. Lý do chính là kiểm soát dữ liệu, nhất là với các ngành như tài chính, y tế, sản xuất và khu vực công. Ngoài ra, khi tự chạy, doanh nghiệp dễ dự đoán chi phí hơn. Quan trọng nữa là AI dạng tác tử (agentic AI, tức là AI có thể tự lập kế hoạch và làm việc theo nhiều bước) đang làm nhu cầu tính toán tăng rất nhanh.

Vì sao điều này quan trọng?

Bài viết cho thấy trọng tâm của máy chủ AI đang thay đổi. Trước đây, máy chủ được tối ưu chủ yếu cho GPU (bộ xử lý đồ họa, thường dùng để tính toán AI). Nhưng với AI dạng tác tử, CPU (bộ xử lý trung tâm) đóng vai trò lớn hơn trong việc lập kế hoạch và chạy mã. Nếu CPU chậm, GPU phải chờ, làm lãng phí sức mạnh. Vì vậy, các hãng phần cứng như ASUS đang phải thiết kế lại máy chủ cho phù hợp.

Cần theo dõi điều gì?

• Các máy chủ AI mới của ASUS có giải quyết được nút thắt về hiệu năng CPU và băng thông bộ nhớ hay không.
• Doanh nghiệp có chọn mua gói trọn bộ này thay vì dùng dịch vụ đám mây hay không.
• Tình trạng thiếu bộ nhớ và CPU có ảnh hưởng đến tốc độ triển khai AI hay không.