CN — TechNode
텐센트, 100만 토큰 컨텍스트를 지원하는 Hy4 모델 가중치 공개
AI1분 읽기
텐센트가 자사의 대표 AI 모델 Hy4의 가중치(모델을 이루는 학습된 숫자 값)를 공개했습니다. 개발자들이 이 모델을 내려받아 직접 설치하고 실행할 수 있게 되었습니다.
무슨 일이 있었나요?
텐센트는 금요일에 대표 AI 모델 Hy4의 가중치를 공개했습니다. 이제 개발자들은 이 모델을 내려받아 자기 컴퓨터나 서버에 설치해 쓸 수 있습니다. Hy4는 11월 4일에 처음 출시되었고, 이번에는 누구나 상업적으로 쓰고 고칠 수 있는 Apache 2.0 라이선스로 공개되었습니다.
꼭 알아둘 숫자와 사실
- 한 번에 기억할 수 있는 글의 양(컨텍스트 창)은 약 100만 토큰입니다. 토큰은 AI가 글을 나누어 읽는 작은 단위입니다.
- 전체 매개변수(파라미터)는 7,700억 개이고, 글자 하나를 처리할 때는 그중 490억 개만 사용합니다.
- 텍스트, 이미지, 영상을 함께 이해할 수 있습니다.
- vLLM과 SGLang이라는 실행 도구의 설치 안내, 미세 조정(추가 학습) 자료, 안전성 평가 문서가 함께 제공됩니다.
알아두면 좋은 배경
Hy4 프리뷰 버전과 비교해 지시 따르기, 긴 글 이해, 오래 걸리는 작업, 연구 능력이 좋아졌다고 텐센트는 설명합니다. 이 모델은 그래픽 화면과 명령줄 도구를 오가는 작업, 프론트엔드와 게임 개발, 사무 업무도 지원합니다. 작은 버전인 Hy4 flash는 이미 따로 공개되었습니다.
왜 중요한가요?
모델 가중치가 공개되면 기업과 개발자가 클라우드 서비스에 의존하지 않고 직접 모델을 다룰 수 있습니다. 상업적 사용이 허용된 라이선스이므로 실제 제품에 넣기도 쉬워집니다. 긴 글과 여러 형태의 자료를 함께 다루는 AI 경쟁이 더 치열해질 수 있다는 점에서도 주목할 만합니다.
앞으로 지켜볼 점
- 개발자들이 실제로 어떤 제품과 서비스에 Hy4를 쓰는지
- 100만 토큰 문맥을 실제 작업에서 얼마나 안정적으로 다루는지
- Hy4 flash 등 다른 크기의 모델과 어떻게 함께 발전하는지
용어 풀이
- Hy4
- 텐센트가 만든 대표 AI 모델로, 글, 이미지, 영상을 함께 이해할 수 있습니다.
- vLLM
- 대형 언어 모델을 빠르고 효율적으로 실행하도록 돕는 오픈소스 도구입니다.