Maxwell giúp mã chưa tối ưu được nâng cấp ngay khi chạy

Chuyện gì đã xảy ra

Hôm thứ Hai, doubleAI, một startup có trụ sở tại Tel Aviv, Israel, giới thiệu Maxwell. Maxwell là một "mô hình thực thi mã" có thể kiểm tra, tối ưu và viết lại mã máy khi chương trình đang chạy. Nó không thay đổi mã nguồn gốc. Thay vào đó, nó thay đổi phiên bản mã mà máy tính thực sự đang chạy.

Các con số chính

• Theo doubleAI, các luồng xử lý dữ liệu chạy nhanh hơn hơn 38 lần.
• Các nhân suy luận AI (phần lõi nhỏ của chương trình AI) chạy nhanh hơn hơn 4,5 lần.
• LTX-2.5, một mô hình thế giới mở tạo video 4K, chạy nhanh gần gấp đôi nhờ Maxwell.
• Kết quả phụ thuộc vào mã và phần cứng chạy nó.

Khác gì so với trình biên dịch

Trình biên dịch chuyển mã do con người viết thành dạng máy tính có thể chạy, và làm việc này trước khi chương trình bắt đầu. Trình biên dịch JIT (biên dịch đúng lúc) làm một phần việc khi chương trình đang chạy. Tuy vậy, trình biên dịch phải thận trọng và chỉ thay đổi nhỏ, an toàn. Maxwell linh hoạt hơn. Nó thấy được phần cứng chính xác và dữ liệu thật khi chương trình chạy. Nó cũng có thể thay cả một thuật toán, ví dụ đổi cách sắp xếp. Để giữ an toàn, nó dùng xác minh hình thức, tức là viết chứng minh toán học rằng mã mới làm đúng việc của mã cũ.

Vì sao quan trọng

Phần mềm nhanh hơn giúp tiết kiệm sức tính toán, thời gian và tiền bạc. Nếu Maxwell hoạt động tốt, chương trình có thể tự cải thiện khi điều kiện thay đổi. Công cụ này cũng cho thấy một ý tưởng mới: AI thay đổi mã khi đang chạy, kèm bằng chứng rằng thay đổi đó đúng. Bài báo cho biết Maxwell làm tốt nhất với mã mang tính thuật toán và có thể được điều chỉnh cho phần cứng cụ thể.

Cần theo dõi

• Các công ty khác có thử Maxwell trên chương trình lớn, thật hay không.
• Chứng minh hoạt động tốt đến đâu với nhiều loại mã và phần cứng.
• Tốc độ tăng có còn lớn ngoài các ví dụ của doubleAI hay không.