Lưu trữ — US — turtlesai
LLM trên Windows 98: Trí tuệ nhân tạo trở về cội nguồn
Các nhà nghiên cứu đã thành công chạy một mô hình học máy tiên tiến trên một PC Windows 98 với bộ xử lý Pentium II và 128 MB RAM, đạt được 39,31 mã thông tin mỗi giây, nhờ vào kiến trúc BitNet. Dự án này nhằm mục đích phổ cập việc tiếp cận trí tuệ nhân tạo và khuyến khích phát triển trên các thiết bị cũ hơn, thể hiện cách mà các mô hình hiệu quả có thể mở rộng khả năng của trí tuệ nhân tạo.
Điểm chính
- Một LLM dựa trên Llama 2 chạy trên một PC Windows 98 với bộ xử lý Pentium II.
- Mô hình đạt hiệu suất 39,31 mã thông báo mỗi giây chỉ với 128 MB RAM.
- Các nhà nghiên cứu sử dụng mã nguồn mở llama2.c được sửa đổi gọi là llama98.c được biên dịch với Borland C++ 5.02.
- Sử dụng BitNet, một kiến trúc có trọng số ba, cho phép chạy các mô hình 7 tỷ tham số trên phần cứng cũ hơn.
- EXO Labs ủng hộ mã nguồn mở và nhằm mục tiêu cho phép truy cập vào trí tuệ nhân tạo trên các thiết bị lỗi thời, với mã nguồn có sẵn trên GitHub.
Vì sao quan trọng
- Dự án tận dụng xu hướng CNTT năm 2025 với sự nhấn mạnh vào tính tài nguyên thấp, dân chủ hóa trí tuệ nhân tạo và bảo vệ môi trường.
- Ý nghĩa lịch sử trong sự phát triển của máy tính, cho thấy cách mà phần cứng cũ vẫn có thể phù hợp cho các ứng dụng hiện đại.
- Sự quan tâm tăng lên trong việc tối ưu hóa các mô hình trí tuệ nhân tạo để tăng khả năng tiếp cận và giá cả hợp lý phản ánh xu hướng phổ cập công nghệ rộng hơn.
Việc sử dụng phần cứng cũ để chạy các mô hình trí tuệ nhân tạo tiên tiến thể hiện một bước tiến quan trọng trong việc làm cho công nghệ AI trở nên dễ tiếp cận và bền vững hơn, mở đường cho những tiến bộ trong lĩnh vực máy tính trên các hệ thống cũ.