Hacker News
Timestral: Mistral phát hành các mô hình nền tảng chuỗi thời gian
AILần đầu xuất hiện 554 điểm104 bình luận
Mistral vừa ra mắt Timestral, một họ mô hình AI dự báo chuỗi thời gian (dữ liệu được ghi theo thứ tự thời gian). Mô hình lớn nhất chỉ có 209 triệu tham số nhưng đứng đầu nhiều bảng xếp hạng quan trọng.
Chuyện gì đã xảy ra?
Mistral, một công ty AI, công bố Timestral, họ mô hình nền tảng đầu tiên của hãng cho dữ liệu chuỗi thời gian. Mô hình có thể dự đoán nhiều giá trị cùng lúc và đưa ra khoảng khả năng, không chỉ một con số. Mô hình cũng có thể dùng thông tin trong quá khứ và thông tin đã biết trước về tương lai, ví dụ lịch sản xuất.
Các con số chính
- Có 4 cỡ mô hình: 5 triệu, 28 triệu, 123 triệu và 209 triệu tham số.
- Mô hình lớn nhất (209 triệu tham số) xếp thứ nhất trên cả ba bảng đo chính: GIFT-Eval, TIME và fev-bench.
- Mô hình này vượt qua kết quả tốt nhất trước đó chỉ với khoảng hai phần ba số tham số.
- Trên CPU máy chủ thông thường, dự báo một ngày tới từ ba tuần dữ liệu 15 phút mất 10 ms với mô hình 5 triệu và 140 ms với mô hình 209 triệu.
- Mô hình 28 triệu tham số đánh bại Chronos-2, lớn hơn khoảng bốn lần, trên GIFT-Eval và TIME.
Vì sao cần loại mô hình này?
Dữ liệu chuỗi thời gian rất phổ biến trong doanh nghiệp, từ cảm biến nhà máy đến số liệu tài chính. Các mô hình cổ điển như ARIMA thường chỉ học từ một chuỗi dữ liệu. Các mô hình học sâu thì thường phải được huấn luyện lại từ đầu cho từng bộ dữ liệu. Mô hình nền tảng được huấn luyện trước trên dữ liệu lớn và đa dạng, nên có thể dự báo ngay cả trên dữ liệu mới, mà không cần huấn luyện thêm (gọi là zero-shot).
Vì sao điều này quan trọng?
Dự báo giúp doanh nghiệp lập kế hoạch công suất, năng lượng, chuỗi cung ứng và bảo trì. Nếu một mô hình nhỏ mà vẫn chính xác và chạy được trên CPU thông thường, công ty sẽ tiết kiệm chi phí và dễ triển khai hơn. Điều này đặc biệt hữu ích với các lĩnh vực có ít dữ liệu.
Cần theo dõi điều gì?
- Kết quả chính thức trên bảng xếp hạng GIFT-Eval và TIME, vì Mistral đã gửi kết quả đến đó.
- Mistral Forge, công cụ giúp tinh chỉnh mô hình cho từng lĩnh vực riêng.
- Việc các doanh nghiệp thực tế áp dụng Timestral trong sản xuất và tài chính.
Chú giải
- Mistral
- Công ty AI phát triển các mô hình ngôn ngữ và nay là mô hình dự báo chuỗi thời gian.
- Timestral
- Họ mô hình nền tảng dự báo chuỗi thời gian mới của Mistral.
- zero-shot
- Dự báo trên dữ liệu mới mà không cần huấn luyện thêm cho dữ liệu đó.
- ARIMA
- Mô hình thống kê cổ điển dùng để dự báo một chuỗi thời gian.
- GIFT-Eval
- Bảng xếp hạng công khai dùng để so sánh các mô hình dự báo chuỗi thời gian.