CN — TechNode
Tencent cho biết Hunyuan Hy4 flash vượt 50 nghìn tỷ token trong ngày đầu sử dụng
AI2 phút đọc
Tencent cho biết mô hình AI nhẹ Hy4 flash đã xử lý hơn 50 nghìn tỷ token chỉ trong ngày đầu ra mắt. Đây là mức sử dụng cao nhất trong ngày đầu của dòng mô hình Hunyuan.
Chuyện gì đã xảy ra?
Tencent, công ty công nghệ lớn của Trung Quốc, ra mắt Hy4 flash vào ngày 16 tháng 11. Theo Tencent, mô hình này xử lý hơn 50 nghìn tỷ token trong ngày đầu tiên. Token là đơn vị nhỏ mà AI dùng để đọc và viết chữ. Trên bảng xếp hạng hằng ngày của OpenRouter, Hy4 flash đứng thứ nhất vào ngày 17 tháng 11.
Các con số chính
- Hơn 50 nghìn tỷ token được xử lý trong ngày đầu tiên.
- Trên nền tảng WorkBuddy, lượng dùng ngày đầu gấp 10 lần phiên bản trước là Hy4 preview.
- Hơn 50 triệu tác vụ thực tế của người dùng đã được hoàn thành.
- Tổng cộng 224 tỷ tham số, trong đó 12 tỷ tham số được kích hoạt khi mô hình trả lời.
- Tốc độ tạo chữ khoảng 200 token mỗi giây.
Vì sao mô hình này được chú ý?
Mô hình AI nhẹ đang thách thức quan niệm cho rằng càng lớn thì càng tốt. Hy4 flash dùng kiến trúc kích hoạt lai và hỗ trợ cả văn bản, hình ảnh, âm thanh và video. Nó có cửa sổ ngữ cảnh lên tới 1 triệu token, tức là có thể đọc và nhớ một lượng nội dung rất lớn cùng lúc. Trước đó, khi Hy4 ra mắt trên WorkBuddy vào ngày 4 tháng 11, nhiều người dùng đã chạm giới hạn sử dụng ngay trong ngày đầu. Tencent sau đó mở rộng cụm máy suy luận Hy4 lên gấp 10 lần và tăng hạn mức miễn phí.
Vì sao điều này quan trọng?
Tencent nói Hy4 flash tiết kiệm chi phí hơn nhiều. Theo bài kiểm tra nội bộ về công việc văn phòng, mô hình này chỉ tốn khoảng một phần mười ba chi phí của Hy4 preview cho một tác vụ. Nó cũng rẻ hơn khoảng tám lần so với các mô hình nhẹ phổ biến cùng loại. Điều này cho thấy cuộc đua AI không chỉ là số tham số hay chất lượng. Giữ chi phí thấp cũng ngày càng quan trọng. Tuy vậy, lượng dùng lớn trong ngày đầu chưa chắc đã tạo ra giá trị thương mại lâu dài.
Cần theo dõi điều gì?
- Hy4 flash có giữ được lượng người dùng sau ngày đầu hay không.
- Mô hình có giải quyết ổn định các nhu cầu kinh doanh thực tế hay không.
- Các chính quyền địa phương ở Trung Quốc có tiếp tục hỗ trợ dịch vụ AI bằng phiếu tính toán và tài chính dựa trên token hay không.
Chú giải
- Tencent
- Công ty công nghệ lớn của Trung Quốc, sở hữu mạng xã hội WeChat và nhiều dịch vụ khác.
- Hunyuan
- Dòng mô hình AI của Tencent, dùng để tạo và hiểu văn bản, hình ảnh và nhiều loại nội dung khác.
- token
- Đơn vị nhỏ mà mô hình AI dùng để đọc và viết chữ; số token càng lớn thì lượng xử lý càng nhiều.
- OpenRouter
- Nền tảng cho phép nhà phát triển truy cập nhiều mô hình AI khác nhau qua một giao diện chung.
- WorkBuddy
- Nền tảng của Tencent hỗ trợ các tác vụ văn phòng bằng AI.