CN — TechNode
DeepSeek muốn AI tốt hơn với chi phí thấp hơn
AI2 phút đọc
DeepSeek, một công ty AI của Trung Quốc, vừa cập nhật mô hình V4.1 Flash và mở mã nguồn một phần công cụ chạy AI. Mục tiêu là làm AI vừa thông minh hơn vừa rẻ hơn khi chạy trên quy mô lớn.
Chuyện gì đã xảy ra
Ngày 17 tháng 10, DeepSeek phát hành bản cập nhật V4.1-Flash-1017. Ngày 20 tháng 10, công ty mở mã nguồn DeepInfer, công cụ nội bộ dùng để chạy mô hình AI, cùng với thư viện deepseek-recipe. Mô hình mới làm tốt hơn ở các việc như lập trình và việc AI tự thực hiện nhiệm vụ. Nó cũng hoàn thành việc nhanh hơn và tạo ra câu trả lời ngắn hơn.
Các con số chính
- Điểm Terminal-Bench 4.0 tăng từ 31,2 lên 42,3.
- Điểm DeepSWE v1.1 tăng từ 74,2 lên 77,0.
- Chi phí khoảng 0,20 USD cho mỗi nhiệm vụ, với điểm khoảng 77%.
- Trên bảng xếp hạng Agent Arena, mô hình đứng thứ nhất trong nhóm mô hình mở và thứ 11 chung, dựa trên 7.498 phiên sử dụng thực tế.
Nền tảng cho người mới
Chạy một mô hình AI cũng tốn tiền, vì cần máy tính và điện. Công cụ suy luận (inference framework) là phần mềm quyết định cách mô hình dùng phần cứng để trả lời người dùng. Nếu công cụ này tốt, cùng một việc có thể làm với ít máy hơn và ít tiền hơn. Mã nguồn mở nghĩa là bất kỳ ai cũng có thể xem và dùng mã đó.
Vì sao tin này quan trọng
Làm ra một AI giỏi chỉ là một nửa việc. Nửa còn lại là làm sao để AI đủ rẻ để phục vụ nhiều người. Số liệu trong bài chủ yếu do chính DeepSeek công bố, nên chưa chắc mô hình sẽ tốt như vậy trong mọi ứng dụng. Việc mở mã nguồn cho phép nhà phát triển tự thử và kiểm chứng.
Điều cần theo dõi
Chú giải
- DeepSeek
- Công ty AI của Trung Quốc, phát triển các mô hình ngôn ngữ lớn và công cụ cho nhà phát triển.
- DeepInfer
- Công cụ suy luận nội bộ của DeepSeek, nay được mở mã nguồn, dùng để chạy mô hình AI ở quy mô lớn.
- KV-cache
- Bộ nhớ tạm lưu thông tin trong lúc AI xử lý, giúp tiết kiệm thời gian và tài nguyên.
- API
- Cổng kết nối để phần mềm khác gửi yêu cầu tới một dịch vụ và nhận kết quả.