arXiv 2610.19705
RouteWeaver: Kết hợp lựa chọn chế độ và thực thi trong định tuyến LLM thống nhất
RouteWeaver: Weaving Mode Selection and Execution into Unified LLM Routing
AI17 lượt đề xuất
Tác giả: Xiaohan Wang, Haozhen Zhang, Qingyuan Liu, Tao Feng, Wenya Wang
Tổng quan
Các tác giả đề xuất RouteWeaver, một chính sách định tuyến LLM duy nhất kết hợp các chế độ định tuyến một vòng, nhiều vòng và agentic, đồng thời học cả việc chọn chế độ nào và chọn mô hình nào trong chế độ đó. Họ huấn luyện bằng COMET-GRPO, tách lợi thế cấp quỹ đạo thành tín hiệu riêng cho lựa chọn chế độ và thực thi trong chế độ, cùng với progressive exploration, chuyển dần từ chế độ được gán bên ngoài sang tự chọn.
Giới thiệu
Các bộ định tuyến LLM hiện nay thường bị cố định vào một kiểu thực thi (một vòng, nhiều vòng hoặc agentic), làm hạn chế khả năng thích ứng với nhu cầu từng truy vấn.
Kết quả
RouteWeaver đạt độ chính xác trung bình 61,4%, cải thiện tương đối 11,03% so với baseline mạnh nhất, và vượt mọi baseline ở cả năm lĩnh vực. Nếu bỏ progressive exploration, chính sách định tuyến sụp đổ hoàn toàn về thực thi một vòng.
Kết luận
Thống nhất các chế độ định tuyến trong một chính sách và tách riêng việc gán tín dụng giúp bộ định tuyến điều chỉnh chiến lược thực thi theo từng truy vấn thay vì bị khóa vào một mô hình duy nhất.