Báo cáo kỹ thuật Xiaomi-Lens-0

Tổng quan

Các tác giả giới thiệu Xiaomi-Lens-0, một MLLM 4B được xây dựng trên Qwen3.5, có khả năng dự đoán mặt nạ phân đoạn trực tiếp từ các biểu diễn thị giác của chính nó. Một bộ giải mã nhẹ kết hợp đặc trưng patch từ bộ mã hóa thị giác với trạng thái token mặt nạ của mô hình ngôn ngữ, nên tín hiệu giám sát mặt nạ đến được backbone dùng chung mà không cần bộ mã hóa phân đoạn riêng. Vì mỗi latent thị giác được giải mã thành một mặt nạ, mô hình có thể xen kẽ các latent theo vùng vào quá trình suy luận và giám sát những vùng nó xem xét trong chuỗi suy nghĩ.