보관된 글 — CN — technode
ByteDance, 5조 매개변수 모델 계획 속 Seed 기초 모델 팀 재편성
바이트댄스의 Seed foundation 모델 부문이 리조빙을 거쳐 사전 트레이닝, 강화학습, 제품 응용 및 대화 모델에 초점을 맞춘 네 개의 새로운 부서를 설립했습니다. 이 조직 변경은 현재 준비 중인 5조 개의 파라미터 모델에 대한 보고와 일치하며, 자세한 내용은 아직 미정이며 제품으로 출시되리라는 것은 확인되지 않았습니다.
핵심 정리
- 바이트댄스의 시드 부문이 네 개의 부서로 재구성되었습니다: 사전 트레이닝 데이터, 호라이즌 강화 학습, 제품 후트레인-워크, 제품 후트레인-챗.
- 워크 팀은 더브오와 돌라와 같은 제품을 위한 비즈니스 애플리케이션을 개발할 것입니다.
- 챗 팀은 소비자 대화 모델에 초점을 맞출 것입니다.
- 이 구조 조정은 5조 이상의 매개변수를 자랑하는 새로운 모델에 대한 계획과 연관되어 있지만, 공식 제품 발표는 이루어지지 않았습니다.
왜 중요한가
- 인공지능 개발에서의 재단 모델의 부상은 중요하며, 모델 크기와 성능이 점점 늘어나는 추세로 나타나고 있습니다.
- 많은 기술 회사들이 혁신을 이끌고 경쟁 우위를 확보하기 위한 전략의 일환으로 대규모 언어 모델에 투자하고 있습니다.
바이트댄스의 재단 모델 팀 재편은 회사가 AI 능력을 발전시키기 위한 의지를 강조하며, 대규모 모델에 초점을 맞춘 계속 변화하는 기술 분야에서 전략적으로 위치하고 있다는 것을 강조합니다.