EXPLORINEER
vi

arXiv 2610.21767

Từ mục tiêu nghiên cứu đến khép kín khoa học: Đánh giá tác tử qua nghiên cứu vật lý có bằng chứng hỗ trợ

From Research Goals to Scientific Closure: Evaluating Agents Through Evidence-Supported Physics Research

AI30 lượt đề xuất

Tác giả: Yijia Mao, Song Dai, Tao Chen, Xiangyu Lu, Linqian Zeng, Chenxi Hu, Sitong Zhou, Dongyang He +9

Tổng quan

Các tác giả giới thiệu PhysClosureBench, một bộ benchmark gồm 50 nhiệm vụ nghiên cứu vật lý có mục tiêu xác định, được chuyên gia kiểm chứng, thuộc lĩnh vực trường mạnh, attosecond và các lĩnh vực lân cận, trong đó tác tử phải tự tổ chức nghiên cứu và tạo, kiểm chứng bằng chứng cần thiết. Hiệu năng được đo bằng Atomic Score gồm 20 tiêu chí để đánh giá thành tựu cục bộ, và bằng các mức Research Closure từ RC0 đến RC4 để xem các bằng chứng thiết yếu và điều kiện phạm vi áp dụng có được đáp ứng hay không. Bảy LLM tiên tiến được đánh giá trên benchmark này.

Giới thiệu

Tác tử khoa học hữu ích không chỉ cần thực hiện đúng từng bước riêng lẻ mà còn phải tổ chức được các nghiên cứu dẫn tới kết luận có bằng chứng vững chắc. Để đo lường điều này, cần đánh giá xem câu hỏi nghiên cứu có thực sự được giải quyết hay không, chứ không chỉ kiểm tra độ chính xác của từng hành động.

Kết quả

Claude-Opus-5 đạt Atomic Score trung bình cao nhất là 6,29/10, nhưng chỉ đạt RC4 trong 32,7% các lần thử. Ngay cả trong các lần thử đạt từ 8/10 điểm trở lên, vẫn có 36,2% không đạt RC4.

Kết luận

Kết quả cho thấy có một khoảng cách dai dẳng giữa thành tựu khoa học cục bộ của tác tử AI và khả năng đạt được sự khép kín nghiên cứu hoàn chỉnh.

Nguồn: Đọc bài báo trên arXiv ↗

Bài giải thích này được AI viết lại bằng lời dễ hiểu từ bài gốc. Hãy kiểm tra bài gốc để xác nhận thông tin.