CEO IBM cho rằng các mô hình open weight nay tốt đến khó cưỡng và rẻ khi triển khai on-prem

Chuyện gì đã xảy ra?

Trong buổi báo cáo tài chính quý 3, ông Krishna nói rằng mô hình AI mở nay là lựa chọn rất hợp lý cho doanh nghiệp muốn chạy AI trên hệ thống máy chủ của chính mình (on-prem). Ông nói năm 2024, các mô hình đóng hàng đầu vượt xa các mô hình mở. Đến cuối 2025, khoảng cách bắt đầu thu hẹp.

Những con số chính

• Trong một bài kiểm tra rộng: mô hình hàng đầu đạt 70 điểm, mô hình mở từng chỉ đạt 20 hoặc 30 điểm.
• Nay khoảng cách chỉ còn gần 70 so với 50 điểm.
• Chi phí mỗi token (đơn vị tính phí khi AI xử lý chữ) của mô hình mở chỉ bằng 25% đến 10% so với mô hình hàng đầu.
• Mô hình mở đạt khoảng 90% hiệu quả của mô hình tốt nhất.
• Doanh thu hạ tầng của IBM tăng 5%, đạt 3,7 tỷ USD. Doanh thu phần mềm tăng 9%, đạt 7,8 tỷ USD.

Tại sao có sự khác biệt này?

Mô hình AI đóng là mô hình mà công ty giữ kín, người dùng chỉ được truy cập qua dịch vụ trả phí. Mô hình AI mở thì có trọng số (weight) được công bố, doanh nghiệp có thể tải về và chạy trên máy của mình. Trước đây, mô hình mở kém xa mô hình đóng. Nay chúng đã gần bằng nhau, nhưng rẻ hơn nhiều.

Vì sao chuyện này quan trọng?

Theo ông Krishna, phần lớn công việc hằng ngày như tóm tắt email, xem hợp đồng hay trả lời khách hàng không cần AI đắt nhất. Điều này có thể làm thay đổi cách doanh nghiệp chọn AI. Tuy nhiên, ông cũng thừa nhận nhiều công ty sẽ khó triển khai. Họ cần kỹ sư giỏi về hạ tầng, mạng và cách lưu đệm kết quả. IBM hứa sẽ làm phần mềm giúp việc triển khai dễ hơn.

Cần theo dõi điều gì?

• Liệu doanh nghiệp có thật sự chuyển sang mô hình AI mở và chạy trên máy chủ riêng không.
• Nhu cầu đối với thẻ tăng tốc Spyre của IBM dành cho mainframe có tăng như dự đoán không.
• Doanh thu mảng mainframe đã giảm 20%. IBM cho biết đây là điều họ dự kiến, vì dòng z17 đã ra mắt được 18 tháng.
• Phần mềm IBM hứa sẽ ra mắt có giúp doanh nghiệp triển khai AI dễ hơn không.