arXiv 2611.08373
SLA: 지속적 사전학습을 통한 공간-언어-행동 모델의 확장
SLA: Scaling Spatial-Language-Action Model via Continual Pre-training
로보틱스추천 48
저자: Fuhao Li, Wenxuan Song, Qizhou Huang, Ziyang Zhou, Jingbo Wang, Junwu E, Pengwei Wang, Yan Wang +2
개요
저자들은 사전학습된 pi05 정책에서 초기화된 공간-언어-행동 모델 SLA를 제안합니다. 지속적 사전학습 중에 행동 예측과, 중간 VLA 시각 임베딩과 고정된 3D 인식 모델 특징 사이의 정렬을 함께 최적화하며, 특징 의존 게이트와 확률적 상태 드롭아웃을 사용합니다. 모든 보조 구성요소는 학습 중에만 사용되므로 원래의 추론 아키텍처는 유지됩니다.
소개
로봇 조작에는 의미 이해와 정밀한 3차원 제어가 모두 필요하지만, 비전-언어-행동 모델은 주로 2D 시각 표현을 물려받고 공간 지도는 작업별 적응 단계에서만 추가됩니다. 따라서 공간 이해를 파운데이션 모델 자체에 내재시킬 필요가 있습니다.
결과
초록에는 정량적 결과가 보고되어 있지 않습니다. 다운스트림 사후 학습 동안 SLA의 공간 정렬이 유지되며 사전학습된 VLA 가중치를 그대로 재사용할 수 있다고 명시합니다.
결론
추론 아키텍처를 바꾸지 않고 VLA 사전학습에 공간 정렬을 포함시키는 것은 로봇 파운데이션 모델에 전이 가능한 3차원 이해력을 부여하는 실용적인 방법입니다.