arXiv 2610.28698
게임에서의 스케일링: 다양한 가상 세계의 구현형 에이전트를 위한 지속 사전 학습
Scaling in Games: Continued Pre-Training For Embodied Agents In Diverse Virtual Worlds
AI추천 46
저자: Kuan Zhang, Yukun Chen, Zhihao Yang, Yue Su, Xiangnan Wu, Zirong Chen, Run Luo, Jinkun Hou +3
개요
이 연구는 구현형 게임 에이전트를 위한 지속 사전 학습(CPT)을 통제된 실험으로 분석하며, 데이터 양, 데이터 다양성, 모델 크기를 120개 구성에 걸쳐 변화시킵니다. 학습에 포함된 세계부터 보지 못한 세계까지 세 단계의 검증 손실과 게임플레이 벤치마크로 평가하고, 경험적 스케일링 법칙을 적합시킵니다.
소개
데이터, 다양성, 모델 용량을 늘리는 것은 물리 환경의 구현형 학습을 개선해 왔지만, 시각 스타일, 동역학, 조작 방식, 목표가 다른 가상 세계에도 같은 이득이 적용되는지는 불분명합니다.
결과
다양성은 관련 세계로의 전이를 개선하지만 먼 세계에서는 이득이 제한적이며, 모델은 3D 세계에서 Minecraft 전문 모델 및 최첨단 모델과 경쟁력이 있고 실시간 환경에서 가장 좋은 성능을 보입니다. 학습은 여러 세계에 걸쳐 넓은 이득이 나타나는 초기 인터페이스 단계에서, 이득이 학습에 포함된 세계와 관련 세계로 좁아지는 후기 세계 단계로 전환됩니다.
결론
지속 사전 학습만으로는 먼 세계에서의 지속적인 격차가 남기 때문에, 범용 구현형 에이전트를 만들려면 CPT를 넘어서는 더 풍부한 학습 단계가 필요할 것으로 보입니다.