arXiv 2610.30181
실제 웹 환경에서의 딥 서치
Deep Search in Real-World Web Environments
AI추천 149
저자: Xiaomin Yu, Hongliang Chen, Zhe Huang, Shilin Yan, Shao-Rong Su, Xuqiao Ma, Feiyang Wang, Jiayu Chen +17
개요
저자들은 라이브 오픈 웹에서 다단계 딥 서치를 평가하기 위한 OpenDS 과제를 제시합니다. 에이전트는 여러 독립 출처에서 증거를 찾고, 접근하고, 통합해 유일한 사실적 답에 도달해야 합니다. 이를 위해 다양한 모달리티, 파일 형식, 상호작용 접근 요구를 포괄하는 200개 과제의 벤치마크 OpenDS-World를 구축하고, 증거 타당성과 답의 유일성을 사람이 검증했으며, 통합된 도구 환경에서 12개 최신 모델을 평가했습니다.
소개
딥 서치 에이전트는 빠르게 발전하고 있지만, 실제 오픈 웹에서의 end-to-end 연구 능력은 충분히 평가되지 않았습니다. 실제 웹의 정보는 다양한 출처, 모달리티, 형식에 흩어져 있고 종종 상호작용 메커니즘 뒤에 있습니다.
결과
최고 성능 모델의 정확도는 39.0%이며, 독립적으로 수행된 1,000회 시도의 사람 평가 정확도는 21.1%입니다. 도구 사용, 검색 비용, 종료 방식, 실패 복구에 대한 분석은 모델 간 전략 차이가 크고 도구 조정과 장기 검색 관리에 지속적인 어려움이 있음을 보여줍니다.
결론
OpenDS-World는 실제 웹에서 자율 딥 서치 에이전트를 측정하고 개선할 수 있는 통합 플랫폼을 제공하며, 현재 시스템은 아직 그 잠재력에 크게 미치지 못합니다.