Sử dụng Claude để giảm bề mặt tấn công của mã nguồn

Chuyện gì đã xảy ra?

Anthropic công bố nghiên cứu về việc giảm "bề mặt tấn công". Bề mặt tấn công là tất cả những chỗ mà kẻ xấu có thể thử xâm nhập vào một chương trình. Nhóm nghiên cứu dùng Claude để vẽ bản đồ những đoạn mã nào có thể bị chạm tới. Sau đó, họ gỡ bỏ hoặc hạn chế quyền truy cập vào những đoạn mã mà phần mềm không thực sự cần đến. Trước đó, Anthropic đã cho thấy các mô hình AI tiên tiến nhất có thể tìm và khai thác lỗ hổng bảo mật. Nghiên cứu lần này xem xét cách cũng chính AI đó có thể giúp những người phòng thủ.

Các con số chính

• Claude được chạy trên 25 dự án mã nguồn mở.
• Các dự án này có tổng cộng hơn 5 triệu dòng mã.
• Các ngôn ngữ lập trình gồm C, C++, Java, PHP và Python.
• Claude tìm được 493 vấn đề.

Vì sao phần mềm dễ có chỗ hở?

Phần mềm thường ngày càng phức tạp theo năm tháng. Các tính năng mới, nhiều lớp xử lý và thư viện bên ngoài (gọi là phụ thuộc) cứ thế chồng lên nhau. Khi đó, mã có thể chạy khác với những gì người xây dựng đã dự định. Kẻ tấn công thường tìm hiểu cách mã thực sự hoạt động, chứ không phải cách nó được thiết kế. Vì vậy, những tính năng ẩn mà không ai cần có thể trở thành cửa vào dễ dàng cho kẻ xấu.

Vì sao điều này quan trọng?

Tìm và sửa từng lỗi một không hiệu quả khi phần mềm lớn, vì sửa một lỗi không cho biết gì về các lỗi khác. Giảm số phần mã có thể bị chạm tới có thể làm giảm nguy cơ từ những lỗi chưa biết, kể cả những lỗi kẻ tấn công có thể đang dùng. Lỗi vẫn còn đó, nhưng khó bị khai thác hơn. Cách này có thể làm phần mềm an toàn hơn mà không cần tìm từng lỗi trước.

Cần theo dõi điều gì?

• Các nhà phát triển có bắt đầu dùng công cụ AI để cắt bỏ những đường đi mã không cần thiết trong phần mềm của mình hay không.
• Cách kiểm tra và sửa 493 vấn đề được tìm thấy trong nghiên cứu.
• Những phương pháp này có hiệu quả với các hệ thống thực tế, rất lớn hay không.