핵심 정리
- 1
Xiaomi's MiMo-V3 sẽ sử dụng một kiến trúc mới.
- 2
Công nghệ lõi mới, HySparse2, nhằm giảm chi phí suy luận ngữ cảnh dài.
- 3
HySparse2 giảm tính toán prefill lên đến 5,02 lần với ngữ cảnh có 1 triệu token.
- 4
Nó cũng giảm bộ nhớ cache key-value lên đến 4,5 lần.
- 5
Các số liệu hiệu suất cho thấy điểm số MRCRv2 và RULER-v2 cao hơn.
- 6
Kết quả AgentPPL và LongPPL thấp hơn do các tối ưu hóa này.
관련 태그
Sự phát triển của các mô hình Trí tuệ Nhân tạo (AI) hiệu quả đồng bộ với xu hướng CNTT năm 2025 tập trung vào việc tính toán AI hiệu quả về chi phí.HySparse2 phản ánh nhu cầu ngày càng tăng về các giải pháp có thể mở rộng trong xử lý ngôn ngữ tự nhiên khi các nhiệm vụ trở nên phức tạp hơn.Các tiến bộ tương tự trong kiến trúc AI đã được thấy trong các công ty như Google và OpenAI đang đầu tư vào hiệu quả.
