LLM đang biến xác minh phần mềm hình thức khả thi ở quy mô lớn hơn nhiều

Chuyện gì đã xảy ra?

Nhóm nghiên cứu đã yêu cầu Claude viết bằng chứng toán học cho các thuộc tính bảo mật của 123 thư viện phần mềm mã nguồn mở. Các bằng chứng này cho thấy một số chương trình luôn kết thúc bình thường, không bị lỗi bộ nhớ hay lỗi khẳng định, với mọi đầu vào nhỏ hơn 64 MB. Công việc này được làm ở mức mã assembly dành cho kiến trúc RISC-V. Trong quá trình viết bằng chứng, Claude còn tìm ra những lỗi đã tồn tại nhiều năm mà hàng nghìn tỷ lần kiểm thử chưa phát hiện.

Các con số chính

• 123 thư viện phần mềm mã nguồn mở được kiểm tra.
• Hơn 100 thư viện thực tế đã có bằng chứng được hoàn thành.
• Đầu vào được kiểm tra: nhỏ hơn 64 MB.
• Hệ thống seL4 mất 2 người-năm để viết, nhưng 20 người-năm để chứng minh hình thức.

Xác minh hình thức là gì?

Xác minh hình thức là cách chứng minh toán học rằng phần mềm luôn tuân theo một tập quy tắc an toàn. Trước đây, việc này rất khó và tốn nhiều công sức, nên chỉ dùng cho những hệ thống cực kỳ quan trọng, như phần mềm điều khiển máy bay. Bằng chứng thường dài hơn cả mã gốc. Vì vậy, các nhóm phát triển hiếm khi làm việc này.

Vì sao điều này quan trọng?

AI giờ đây có thể tìm và khai thác lỗi phần mềm nhanh hơn trước. Các cách phòng thủ thông thường không còn đủ. Nếu AI có thể viết bằng chứng an toàn cho phần mềm quy mô lớn, các nhóm sẽ có cách chứng minh code không có lỗi theo một số quy tắc nhất định. Nhóm nghiên cứu cho rằng đây là bước đi gần hơn tới việc sửa mọi lỗi, dù vẫn còn xa.

Điều cần theo dõi

• Nhóm sẽ công bố một phần các bằng chứng để mọi người có thể kiểm tra và tái sử dụng.
• Theorem đề nghị chạy cùng quy trình cho các phần mềm khác.
• Khả năng của mô hình AI tiếp tục tăng sẽ quyết định việc xác minh hình thức có trở thành phổ biến hay không.