arXiv 2610.05114
Belief-Trajectory Energy: Đo lường con đường dẫn đến dự đoán
Belief-Trajectory Energy: Measuring the Path to a Prediction
AI15 lượt đề xuất
Tác giả: Jiahao Ying, Wei Tang, Boxian Ai, Yaoning Wang, Haotian Chen, Wenhe Sun, Caijun Xu, Haozhan Cai +2
Tổng quan
Các tác giả giới thiệu Belief-Trajectory Energy (BTE), một thước đo đánh giá đầu vào qua các điều chỉnh dự đoán theo từng tầng mà nó gây ra trong LLM, sau khi ánh xạ các trạng thái trung gian vào một không gian dự đoán chung. BTE có thể tóm tắt thành một giá trị vô hướng hoặc một hồ sơ theo độ sâu có cấu trúc, và ở mức cục bộ nó tương ứng với sự điều chỉnh dự đoán trong hình học Fisher-Rao.
Giới thiệu
LLM điều chỉnh dự đoán qua các tầng Transformer, nhưng thường chỉ quan sát được đầu ra cuối cùng, do đó quỹ đạo đã hình thành đầu ra đó bị mất.
Kết quả
Các biểu diễn BTE phong phú đạt macro-AUROC lên tới 0,998 trong việc phát hiện đánh giá do con người và LLM viết. Chúng cũng đạt độ chính xác 95,6% trong việc quy kết bộ sinh trên tám lớp, trong khi BTE vô hướng đóng vai trò tín hiệu độ khó theo mô hình trên các tác vụ suy luận.
Kết luận
Quỹ đạo niềm tin cung cấp một tín hiệu có nền tảng nguyên lý và gắn với mô hình, cho thấy chính các mô hình đã học có thể đóng vai trò công cụ để mô tả dữ liệu mà chúng xử lý.