Lưu trữ — US — techcrunch
AI giả mạo và tin tức sai lệch đang làm tê liệt một số chương trình thưởng phát hiện lỗi bảo mật
Tình trạng phổ biến của các báo cáo lỗi được tạo ra bởi trí tuệ nhân tạo có chất lượng thấp, được gọi là 'AI slop', đã làm cho các nền tảng huy động lỗi bảo mật bị áp đảo, khi sự không chính xác này làm cho các nhà nghiên cứu và các công ty cảm thấy thất vọng. Các báo cáo thường chứa các lỗ hổng được tạo ra một cách giả mạo, dẫn đến việc làm mất hướng cho các nỗ lực bảo mật thông tin. Mặc dù một số nền tảng như HackerOne đang phát triển các công cụ trí tuệ nhân tạo để lọc các bài nộp, nhưng thách thức của việc phân biệt giữa các mối đe dọa thật sự và tiếng ồn vẫn tiếp tục tồn tại.
Điểm chính
- AI slop là thuật ngữ đề cập đến những báo cáo kém chất lượng được tạo ra bởi LLM trong lĩnh vực an ninh mạng, khẳng định phát hiện ra những lỗ hổng mà thật sự không tồn tại.
- Những báo cáo sai lầm này đang làm gián đoạn các chương trình bug bounty bằng cách cung cấp dữ liệu đánh lừa, dẫn đến việc lãng phí công sức trong việc xác định các lỗ hổng thực sự.
- Các nhà nghiên cứu an ninh đã báo cáo về sự tăng lên của các kết quả dương tính sai lầm do những báo cáo được tạo ra bởi AI, tạo ra sự nhầm lẫn trong việc đánh giá bảo mật.
- Các nền tảng như HackerOne đang phát triển các hệ thống hỗ trợ AI để cải thiện độ chính xác trong việc lọc những bài nộp này.
- Một nhà phát triển mã nguồn mở đã loại bỏ chương trình bug bounty của mình do số lượng báo cáo AI slop quá lớn.
Vì sao quan trọng
- Sự phát triển của trí tuệ nhân tạo (AI) trong nhiều ngành đang thách thức các phương pháp an toàn mạng, phản ánh xu hướng trong năm 2025 khi AI được sử dụng ngày càng nhiều trong cả các biện pháp tấn công và phòng thủ.
- Vấn đề này phản ánh một lo ngại toàn diện trong lĩnh vực Công nghệ thông tin, nơi mà tự động hóa và công cụ AI có thể gây ra lỗi, ảnh hưởng đến sự tin tưởng và hiệu quả trong việc phát triển phần mềm.
- Khi công nghệ AI tiến triển, có thể so sánh với các xu hướng công nghệ lịch sử, khi triển khai ban đầu gặp phải phản đối trước khi được hoàn thiện và niềm tin được đạt được.
Thách thức ngày càng tăng với AI slop nhấn mạnh sự cần thiết của hệ thống lọc tốt hơn trong các nền tảng bug bounty, khi ngành công nghiệp an ninh mạng thích nghi với bản chất đôi lưỡng của AI trong phát hiện mối đe dọa.