Sam Altman: 'Thật tệ khi RAM nằm trong máy người dùng'

Chuyện gì đã xảy ra?

Sam Altman bày tỏ lo ngại về việc nhiều người muốn chạy AI ngay trên máy của mình. Việc này gọi là suy luận cục bộ. Ông cho rằng người ta tin vấn đề sẽ được giải quyết nếu có các mô hình mã nguồn mở chạy trên máy cá nhân, không cần dùng đến trung tâm dữ liệu. Ông nói điều này trong một buổi phỏng vấn với kênh YouTube Cheeky Pint.

Những con số đáng chú ý

• RAM trên máy người dùng chỉ được dùng khoảng 5% thời gian hoạt động, theo lời Altman.
• Micron đã ký 26 thỏa thuận chiến lược, bao phủ hơn 35% doanh thu dự kiến đến năm 2030. Hãng cũng nhận 32 tỷ USD tiền đặt cọc từ khách hàng.
• Samsung được cho là đã chốt hợp đồng dài hạn bao phủ 75-80% sản lượng chip nhớ dự kiến của hãng năm 2027.
• Giới phân tích dự báo tình trạng thiếu chip nhớ có thể kéo dài ít nhất đến năm 2028.

Tại sao chuyện này xảy ra?

Suy luận cục bộ nghĩa là mô hình AI đã học xong sẽ chạy trực tiếp trên chip của thiết bị, như CPU, GPU hay NPU, thay vì gửi dữ liệu lên máy chủ đám mây như ChatGPT hay Claude. OpenAI vẫn kiếm tiền chủ yếu từ các mô hình đóng chạy trong trung tâm dữ liệu. Theo Tom's Hardware, nếu máy người dùng chạy được AI thì họ sẽ ít phải trả tiền hơn cho các mô hình này.

Vì sao điều này quan trọng?

Chip nhớ đang khan hiếm vì các hãng công nghệ đua nhau đặt hàng để xây hạ tầng AI. Các hãng chip cũng chọn tăng giá thay vì mở rộng nhà máy nhiều, nên tình trạng thiếu hàng kéo dài. Cây bút Steve Bonifiled của The Verge nhận xét rằng điều này khiến máy tính, điện thoại và nhiều thiết bị khác ngày càng đắt đỏ.

Cần theo dõi điều gì?

• Việc thiếu chip nhớ có kéo dài đến năm 2028 như dự báo hay không.
• Giá RAM, máy tính và điện thoại có tiếp tục tăng hay không.
• Các hãng AI sẽ đưa ra mô hình nào để chạy trên máy cá nhân.