DE — heise online
Báo cáo: Trung Quốc huấn luyện AI bằng cách chưng cất các mô hình của Mỹ
AI2 phút đọc
Một báo cáo của Reuters cho biết nhiều công ty và phòng thí nghiệm AI Trung Quốc có thể đang huấn luyện mô hình của mình bằng cách sao chép câu trả lời từ các mô hình AI lớn của Mỹ. Cách làm này gọi là chưng cất (distillation), và nó giúp họ vượt qua tình trạng thiếu sức mạnh máy tính.
Chuyện gì đã xảy ra?
Reuters đã đọc hơn 300 tài liệu, gồm bài nghiên cứu, bằng sáng chế, thông báo của công ty, tin tuyển dụng và văn bản chính phủ của Trung Quốc. Theo báo cáo, các công ty và nhóm nghiên cứu AI Trung Quốc dường như dùng các mô hình lớn của Mỹ để dạy mô hình của chính họ. Việc này đang lan từ các trường đại học sang doanh nghiệp. Chính phủ Trung Quốc ủng hộ, vì muốn các nhà máy dùng AI với chi phí thấp hơn.
Các con số chính
- Reuters đã xem xét hơn 300 tài liệu từ Trung Quốc.
- Các nhà nghiên cứu tại Đại học Giao thông Thượng Hải đã chọn khoảng 5.000 câu trả lời từ mô hình o1 của OpenAI.
- Họ tạo ra 10.750 ví dụ huấn luyện song ngữ và dùng chúng để huấn luyện Qwen2.5-72B của Alibaba.
- Kế hoạch 'AI+Manufacturing' của chính phủ, công bố vào tháng 1 bởi tám cơ quan, nêu chưng cất là cách hỗ trợ sản xuất công nghiệp.
Chưng cất là gì?
Trong chưng cất, một mô hình AI 'thầy' mạnh sẽ đưa ra câu trả lời hoặc lời giải từng bước. Một mô hình AI 'trò' nhỏ hơn học theo những câu trả lời đó. Bản thân cách làm này không phạm pháp. Tuy nhiên, các công ty Mỹ như Anthropic và OpenAI nói rằng các công ty Trung Quốc đã vi phạm điều khoản sử dụng. Họ cho rằng việc này được thực hiện bằng danh tính giả, khóa API bị đánh cắp và thẻ tín dụng bị đánh cắp. Trung Quốc bác bỏ các cáo buộc này và nói rằng các công ty Mỹ cũng làm những việc tương tự.
Vì sao điều này quan trọng?
Chưng cất không sao chép được mọi thứ mà một mô hình lớn làm được, và nó cũng không thay thế được chip máy tính mạnh. Nhưng nó có thể dạy cho mô hình nhỏ một số kỹ năng nhất định. Mỹ cấm xuất khẩu, nên Trung Quốc có ít chip AI mạnh. Cách này giúp các công ty Trung Quốc khai thác tốt hơn số chip đang có. Nó cũng đặt ra câu hỏi về sử dụng hợp lý, an ninh và việc Trung Quốc có thể tự tạo ra ý tưởng mới đến đâu.
Cần theo dõi điều gì?
- Các công ty hoặc cơ quan Mỹ có thể có hành động pháp lý hay chính sách nào đối với việc chưng cất ở Trung Quốc hay không.
- Trung Quốc có đưa ra quy định rõ ràng về điểm kết thúc của việc sử dụng mô hình nước ngoài thông thường hay không.
- Các công ty Trung Quốc có tìm được thêm sức mạnh máy tính ở ngoài Trung Quốc để tránh kiểm soát xuất khẩu hay không.
Chú giải
- distillation
- Chưng cất: mô hình nhỏ học từ câu trả lời của mô hình lớn hơn.
- OpenAI
- Công ty Mỹ phát triển các mô hình AI, trong đó có dòng o1.
- Anthropic
- Công ty AI Mỹ phát triển trợ lý AI Claude.
- Alibaba
- Tập đoàn công nghệ Trung Quốc, phát triển mô hình AI Qwen.
- Qwen2.5-72B
- Mô hình AI lớn của Alibaba, được dùng để huấn luyện trong nghiên cứu này.