Lưu trữ — US — turtlesai
MistralAI ra mắt Mistral Small 3.1: Đa phương thức và ngữ cảnh 128k phù hợp với 4090RTX hoặc Mac 32GB
MistralAI đã ra mắt Mistral Small 3.1, một mô hình AI đa dạng với 24 tỷ thông số, được tối ưu hóa cho độ trễ và thiết kế để chạy trên phần cứng tiêu chuẩn như RTX 4090 hoặc 32GB Mac. Nó hỗ trợ một chiều dài ngữ cảnh của 128.000 mã thông báo và nhắm đến cả việc sử dụng thương mại và phi thương mại, hứa hẹn hiệu suất cạnh tranh hơn so với các mô hình như Gemma 3 và GPT-4o Mini.
Điểm chính
- Mistral Small 3.1 được tối ưu hóa cho độ trễ và hiệu suất trên phần cứng tiêu chuẩn.
- Nó có khả năng đa dạng, phân tích cả văn bản và hình ảnh.
- Mô hình hỗ trợ độ dài bối cảnh lên đến 128.000 mã thông báo, cho phép xử lý tài liệu chi tiết.
- Các bài kiểm tra nội bộ cho thấy nó hoạt động tốt hơn so với các đối thủ như Gemma 3 và GPT-4o Mini, với tốc độ suy luận 150 mã thông báo mỗi giây.
- Hiện chưa có bài kiểm tra độc lập nào để xác minh hiệu suất của nó.
- Nó được cấp phép dưới bản quyền Apache 2.0, cho phép các ứng dụng thương mại và không thương mại đa dạng.
- Nó nhắm đến các ứng dụng địa phương nhạy cảm với dữ liệu, do hiệu suất của nó trên các thiết bị có tài nguyên bị hạn chế.
Vì sao quan trọng
- Trong bối cảnh sự gia tăng của các mô hình AI và việc áp dụng chúng vào các ngành công nghiệp sau năm 2022, Mistral Small 3.1 phản ánh xu hướng tối ưu hóa AI cho việc tính toán ở cạnh bờ.
- Các Xu hướng CNTT năm 2025 cho thấy sự tập trung vào các mô hình AI đa chế độ do sự phức tạp ngày càng tăng của tương tác người dùng.
- Việc xử lý ngữ cảnh cải thiện phù hợp với nhu cầu hiểu ngôn ngữ tự nhiên và phân tích tài liệu tốt hơn trong bối cảnh kinh doanh.
Mistral Small 3.1 đánh dấu một bước tiến quan trọng trong phát triển trí tuệ nhân tạo, cung cấp khả năng mạnh mẽ trên phần cứng dễ tiếp cận, có thể ảnh hưởng đến việc áp dụng và sáng tạo rộng hơn trong lĩnh vực trí tuệ nhân tạo.