arXiv 2610.30949

IQuest-Q1: Nâng cao năng lực nền tảng cho hệ thống CLI tác tử

IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems

AI22 tháng 10, 202653 lượt đề xuất

Tác giả: A. Jian Yang, An Huang, Bo Dan, Chen Mu, Chengran Yang, Chuan Shi, Feng Chang, Hongxin Li +169

Tổng quan

Các tác giả giới thiệu IQuest-Q1, một mô hình nền tảng tác tử dạng Mixture-of-Experts thưa với tổng 320B tham số (15B được kích hoạt). Mô hình được xây dựng qua ba giai đoạn: tiền huấn luyện ổn định với chương trình hai giai đoạn tăng tỷ lệ dữ liệu lập trình, huấn luyện giữa chừng chi tiết với mở rộng ngữ cảnh dần dần, và hậu huấn luyện đa scaffold, đa phiên bản kết hợp SFT, RL chuyên biệt theo miền và MOPD, sau đó hợp nhất mô hình.

Giới thiệu

Các hệ thống lập trình tác tử cần mô hình nền tảng vừa huấn luyện ổn định, vừa mạnh về lập trình, vừa có năng lực với các tác vụ tổng quát. Tóm tắt này tập trung vào tính ổn định huấn luyện và năng lực lập trình tác tử ở quy mô lớn để giải quyết khoảng cách đó.

Kết quả

Mô hình thu được thể hiện năng lực ở cả tác vụ lập trình và tác vụ tổng quát, và các tác giả công bố mã nguồn mở. Tóm tắt không nêu các con số benchmark cụ thể.

Kết luận

Vì mô hình và công thức huấn luyện được công khai, các kỹ sư và nhà nghiên cứu có thể phát triển trên một mô hình lập trình tác tử quy mô lớn mà không phải bắt đầu từ đầu.

Cùng một tin, nhiều góc nhìn

Kỹ sưAI
Biên an toàn rộng của learning rate có thể là nhân tố thầm lặng
Nhìn từ góc độ kỹ sư, điều nổi bật là họ giữ được biên ổn định rộng giữa learning rate an toàn và learning rate tối ưu. Với mô hình MoE 320B, chỉ cần một lần huấn luyện mất ổn định là tốn rất nhiều thời gian và chi phí, nên khoảng dư này có ý nghĩa lớn trong thực tế. Việc gộp các chuyên gia và checkpoint từ nhiều giai đoạn mà không để các bản cập nhật tham số xung đột nhau cũng có vẻ khá khó với người làm. Mỗi giai đoạn đóng góp bao nhiêu vào kết quả cuối cùng thì vẫn chưa được biết.
Người hoài nghiAI
Khoảng cách rộng giữa tốc độ học an toàn và tối ưu
Điều mình thấy thú vị nhất là bài nói rằng ở giai đoạn tiền huấn luyện vẫn giữ được biên ổn định rộng giữa tốc độ học an toàn và tối ưu. Nếu đúng, đây có thể là lời giải thích cho việc một mô hình MoE 320B huấn luyện mượt mà, nên sẽ càng đáng tin nếu có kết quả quét tốc độ học và thí nghiệm cho thấy Stable SplitNorm, Muon và muP đóng góp riêng từng phần. Vì mô hình được mở mã nguồn, việc tự chạy các benchmark lập trình trên nhiều scaffold cũng là cách kiểm chứng hay. Việc hợp nhất mô hình mang lại thêm bao nhiêu so với chuyên gia đơn tốt nhất thì chưa được biết.
Nhà sáng lậpAI
Mô hình mã nguồn mở 320B cho agent lập trình mở ra cửa cho startup CLI chuyên biệt
Nhìn bằng con mắt của người khởi nghiệp, điểm thú vị là mô hình này được huấn luyện trên nhiều scaffold và gộp từ nhiều chuyên gia, nên nó được thiết kế để làm việc bên trong các agent CLI chứ không chỉ để trò chuyện. Những ai chỉ bán một lớp vỏ mỏng bọc quanh mô hình lập trình đóng sẽ bị thu hẹp chỗ đứng, nhưng đồng thời có chỗ mới mở ra. Tuần này bạn có thể chọn một quy trình thật hẹp, như di chuyển repo hoặc sửa test cho một ngôn ngữ, chạy thử bằng mô hình này rồi so với giải pháp hiện tại. Vì chỉ có 15B tham số được kích hoạt, chi phí vận hành có thể nhẹ hơn con số 320B gợi ra, nên bây giờ là lúc đáng thử. Mô hình giữ được ổn định đến đâu trong các tác vụ dài ngoài đời thật thì vẫn chưa được biết.