UK — The Register
ChatGPT được thu nhỏ để chạy trên Super Nintendo
AI1 phút đọc
Một người đã làm cho một phiên bản ChatGPT rất nhỏ chạy được trên băng game của máy Super Nintendo. Bản này rất đơn giản, nên câu trả lời thường không đầy đủ và đôi khi sai.
Chuyện gì đã xảy ra?
Benj Edwards, một nhà báo công nghệ và người yêu đồ công nghệ cổ, đã tạo ra "ChatGPT for SNES". Chương trình này chạy được trong trình giả lập (phần mềm mô phỏng máy chơi game trên máy tính). Ông cũng đưa lên mạng file ROM để ai cũng có thể tải về và chạy trên máy SNES thật.
Các con số chính
- Mô hình chỉ có khoảng 2,2 triệu tham số (phần số dùng để AI "suy nghĩ"). Con số này nhỏ hơn hàng triệu lần so với các mô hình đứng sau ChatGPT.
- Mô hình biết khoảng 8.000 từ.
- Bản gốc chỉ khoảng 4MB. Bản có kho kiến thức (factbook) khoảng 19MB.
- Kho kiến thức lấy từ phần mở đầu của khoảng 150.000 bài Wikipedia tiếng Anh đơn giản.
Vì sao nó chạy được?
Mô hình này là bản thu nhỏ (gọi là distilled, nghĩa là được rút gọn) của GPT-OSS-120b, một mô hình AI mở của OpenAI. Để chạy trên SNES, người dùng cần một cartridge hỗ trợ ROM tùy chỉnh và chip Super FX. Bản kho kiến thức còn cần thêm MSU-1, một bộ phận giúp SNES đọc dữ liệu kiểu đĩa CD-ROM.
Vì sao chuyện này đáng chú ý?
Câu chuyện cho thấy AI có thể được thu nhỏ rất nhiều và chạy trên phần cứng cũ. Edwards nói rõ đây không phải trợ lý hữu ích. Đây chỉ là một thí nghiệm vui, giúp mọi người hiểu AI hoạt động thế nào và giới hạn ra sao.
Cần theo dõi thêm
- Edwards nói ông đang làm thêm các thí nghiệm với mô hình AI nhỏ.
- Ông cũng cho biết bản chạy không cần chip Super FX vẫn có thể làm được, nhưng câu trả lời sẽ kém hơn.
Chú giải
- ChatGPT
- Chatbot AI do OpenAI phát triển, có thể trò chuyện và trả lời câu hỏi.
- ROM
- File chứa dữ liệu của một trò chơi hoặc chương trình, dùng để chạy trên máy chơi game hoặc trình giả lập.
- Super FX
- Chip phụ trợ trong một số game SNES, giúp xử lý đồ họa và tính toán nhanh hơn.
- MSU-1
- Thiết bị mở rộng giúp SNES đọc dữ liệu giống đĩa CD-ROM.