EXPLORINEER
vi

CN — TechNode

Tencent phát hành trọng số mô hình Hy4 với ngữ cảnh một triệu token

AI2 phút đọc

Tencent đã công bố trọng số (weights) của mô hình AI chủ lực Hy4, nghĩa là các nhà phát triển có thể tải về và tự chạy mô hình. Mô hình này có thể xử lý văn bản, hình ảnh và video.

Tencent mở mã trọng số Hy4

Hôm thứ Sáu, Tencent đã phát hành trọng số của Hy4, mô hình AI chủ lực của hãng. Nhờ vậy, các nhà phát triển có thể tải mô hình về và tự triển khai. Hy4 ra mắt lần đầu vào ngày 4 tháng 11. Mô hình được cấp phép Apache 2.0, cho phép dùng vào mục đích thương mại và chỉnh sửa.

Các con số chính

  • Cửa sổ ngữ cảnh khoảng 1 triệu token (token là đơn vị nhỏ mà AI dùng để đọc và xử lý chữ).
  • Phần lõi ngôn ngữ có 770 tỷ tham số (parameter, tức là các con số bên trong mô hình).
  • Mỗi token chỉ dùng 49 tỷ tham số được kích hoạt.
  • Hy4 hỗ trợ hiểu văn bản, hình ảnh và video.

Mô hình chuyên gia là gì?

Hy4 dùng kiến trúc gọi là mô hình chuyên gia hỗn hợp (mixture-of-experts). Cách này chia mô hình thành nhiều nhóm “chuyên gia”. Với mỗi token, chỉ một phần nhóm được bật lên, nên việc chạy mô hình nhẹ hơn so với việc dùng toàn bộ tham số cùng lúc. Trước đó, Tencent đã mở riêng mô hình nhỏ hơn là Hy4 flash.

Vì sao tin này quan trọng

Khi ai cũng có thể tải và chạy một mô hình lớn, các công ty nhỏ và nhà nghiên cứu có thêm lựa chọn. Tencent nói Hy4 làm tốt hơn bản preview ở việc làm theo hướng dẫn, hiểu văn bản dài và làm các tác vụ kéo dài. Mô hình cũng hỗ trợ làm việc với giao diện đồ họa, dòng lệnh, phát triển giao diện web, làm game và công việc văn phòng.

Cần theo dõi

  • Các nhà phát triển sẽ thử triển khai Hy4 bằng vLLM và SGLang, hai công cụ chạy mô hình AI.
  • Tencent đã cung cấp tài nguyên để tinh chỉnh (fine-tuning) và một thẻ đánh giá an toàn.
  • Xem cộng đồng dùng Hy4 để làm gì và mô hình hoạt động thế nào trong thực tế.

Chú giải

Tencent
Tập đoàn công nghệ lớn của Trung Quốc, làm nhiều dịch vụ như game, mạng xã hội và AI.
Hy4
Mô hình AI chủ lực của Tencent, có thể xử lý văn bản, hình ảnh và video.
mixture-of-experts
Kiến trúc AI chia mô hình thành nhiều nhóm chuyên gia, mỗi lần chỉ bật một phần.
vLLM
Công cụ mã nguồn mở giúp chạy các mô hình ngôn ngữ lớn nhanh và hiệu quả.
SGLang
Công cụ mã nguồn mở dùng để triển khai và chạy mô hình ngôn ngữ lớn.

Nguồn: Đọc bản gốc trên TechNode ↗

Bài giải thích này được AI viết lại bằng lời dễ hiểu từ bài gốc. Hãy kiểm tra bài gốc để xác nhận thông tin.

Quảng cáo

Thêm 150 từ, học 10 từ mỗi ngày

Sổ từ vựng Dicter chỉ đưa những từ bạn đã thuộc vào sổ ôn tập.

AIITmedia

Nhà toán học của Anthropic tuyên bố cùng Claude chứng minh giả thuyết Riemann; cộng đồng Lean xác nhận là đúng

Nhà toán học Levent Alpöge thuộc Anthropic đã công bố trên website cá nhân rằng ông và Claude tin đã tìm ra chứng minh giả thuyết Riemann, được trình bày dưới dạng chứng minh hình thức trong hệ thống hỗ trợ chứng minh Lean. Ngày 21/11, cộng đồng Lean và Mathlib đã ra tuyên bố chung xác nhận chứng minh này là đúng, nhưng bài báo mà các nhà toán học có thể đọc vẫn chưa được công bố.

AITechCrunch

Bán phiên bản AI khuôn mặt của bạn cho startup microdrama này có phải là tương lai của Hollywood?

Startup microdrama Shortical, được thành lập vào tháng 1 năm ngoái, sản xuất các tập phim lãng mạn ngắn khoảng hai phút và hiện cũng làm nội dung do AI tạo ra. Loạt phim mới nhất của hãng, "Inevitable", có sự tham gia của nam diễn viên Israel Aki Avni, người đã cấp phép sử dụng khuôn mặt của mình để tạo một hình đại diện kỹ thuật số cho dự án hoàn toàn do AI thực hiện, vừa ra mắt tại Los Angeles. Shortical cho biết dịch vụ này vẫn còn trong giai đoạn đầu và chưa có hợp đồng nào được ký kết ngoài thỏa thuận với Avni.

AITechCrunch

Những trợ lý AI tốt nhất có thể hoạt động ngay trong tin nhắn văn bản

Ngày càng nhiều trợ lý AI có thể được nhắn tin như một người bình thường, ghi nhớ ngữ cảnh, kết nối với các ứng dụng và dịch vụ quen thuộc, và thực hiện các việc như đặt lịch, sắp xếp lịch hẹn, đặt chỗ, mua sắm trực tuyến hay nhắc việc. Bài viết nêu bật Instinct, công ty được cho là có định giá 10 tỷ USD sau vòng gọi vốn 1 tỷ USD, cùng các lựa chọn khác như Ask Proxy, Caddy, Comma và Fambot, nhắm đến người dùng cá nhân, công việc và gia đình.

AIThe Register

ChatGPT được thu nhỏ để chạy trên Super Nintendo

Nhà báo công nghệ Benj Edwards đã phát hành ChatGPT for SNES, một chatbot mini chạy trong trình giả lập hoặc dưới dạng ROM trên băng game Super Nintendo. Đây là phiên bản chưng cất 2,2 triệu tham số từ GPT-OSS-120b của OpenAI, có tùy chọn sổ dữ liệu lấy từ Wikipedia tiếng Anh đơn giản; Edwards cho biết mô hình biết khoảng 8.000 từ và thường trả lời sai, đôi khi rất tự tin.