Hybrid Reasoning Agents: Các tác nhân LLM suy nghĩ trong không gian tiềm ẩn, hành động qua văn bản

Chuyện gì đã xảy ra?

Các AI agent hiện nay thường suy nghĩ và giao tiếp bằng chữ viết. Nhóm tác giả tạo ra HybridAgents, có thể chuyển qua lại giữa hai cách: suy nghĩ ẩn bên trong và dùng chữ để gọi công cụ hoặc tương tác với thế giới bên ngoài. Hai cách này được gắn với nhau bằng một thành phần nhỏ gọn tên là HybridLink.

Các con số chính

• Thử nghiệm ở 3 quy mô mô hình khác nhau.
• Đánh giá trên 11 bộ bài kiểm tra, gồm toán, khoa học, y học, tìm kiếm và suy luận cho agent.
• Hiệu suất tốt hơn trung bình 10,4% so với các agent và khung làm việc mạnh hiện có.
• Giảm 35,5% đến 54,7% số lượng token (đơn vị nhỏ của chữ mà AI xử lý).
• Suy luận nhanh hơn 1,8 đến 2,6 lần; tiết kiệm chi phí 2,7 đến 3,7 lần.

Vì sao cần cách này?

Suy nghĩ ẩn (latent reasoning) xử lý hiệu quả bên trong mô hình, nhưng người dùng khó xem và AI khó gọi công cụ bên ngoài. Suy nghĩ bằng chữ thì minh bạch hơn và dễ dùng công cụ, nhưng lại tốn nhiều thời gian và chi phí. HybridAgents cố gắng lấy điểm mạnh của cả hai.

Vì sao điều này quan trọng?

Nếu cách này hoạt động tốt ngoài phòng thí nghiệm, AI agent có thể làm việc nhanh hơn, rẻ hơn và vẫn giữ được khả năng dùng công cụ. Các suy nghĩ ẩn cũng có thể được kiểm tra, giúp con người hiểu AI đang nghĩ gì hơn.

Cần theo dõi điều gì?

• Kết quả có được kiểm chứng bởi các nhóm nghiên cứu khác hay không.
• Mã nguồn và dữ liệu mà nhóm công bố có được sử dụng rộng rãi không.
• Cách này có chạy tốt trên các mô hình và công việc thực tế khác hay không.