보관된 글 — US — techcrunch
AI 스팸 및 허위 보고서로 보안 버그 바운티가 피로감을 호소하고 있다
보안 버그 바운티 플랫폼을 압도하는 저품질 AI 생성 버그 리포트인 'AI slop'의 보급률이 높아지고 있습니다. 이는 부정확성이 연구자와 기업을 좌절시키는 상황으로 이어집니다. 리포트에는 종종 사이버 보안 노력을 혼란스럽게 만드는 가짜 취약점이 포함되어 있습니다. HackerOne과 같은 일부 플랫폼은 제출물을 걸러내는 AI 도구를 개발하고 있지만, 실제 위협과 노이즈를 구별하는 것은 여전히 어렵습니다.
핵심 정리
- 사이버 보안 분야에서는 존재하지 않는 취약점을 찾았다고 주장하는 낮은 품질의, LLM이 생성한 보고서를 AI 슬랍이라고 합니다.
- 이러한 잘못된 보고서로 버그 바운티 프로그램이 방해를 받아 실제 취약점을 식별하는 데 소중한 노력이 낭비되고 있습니다.
- 보안 연구원들은 이러한 AI 생성 보고서 때문에 잘못된 양성 결과가 증가하여 보안 평가에서 혼란이 야기되고 있다고 보고했습니다.
- HackerOne과 같은 플랫폼들은 이러한 제출물을 필터링하여 정확성을 향상시키기 위해 AI 지원 시스템을 개발하고 있습니다.
- 한 오픈소스 개발자는 AI 슬랍 보고서가 너무 많아져 버그 바운티 프로그램을 중단했습니다.
왜 중요한가
- 다양한 산업에서 AI의 부상은 어려운 사이버 보안 관행에 도전을 주고 있습니다. 이는 2025년의 트렌드를 반영하는데, AI가 공격 및 방어 조치 모두에서 점점 더 활용되고 있습니다.
- 이 문제는 소프트웨어 개발의 신뢰와 효율성에 영향을 미치는 오류를 도입할 수 있는 자동화 및 AI 도구와 함께 IT 분야 전반에서 더 큰 우려를 반영하고 있습니다.
- AI 기술이 발전함에 따라 초기 구현이 개선되고 신뢰가 확립될 때까지 후속 기술 트렌드와 유사점이 드러납니다.
AI 슬롭이 증가함에 따라 사이버 보안 산업은 AI의 위협 탐지에서의 이중성에 적응하면서 버그 바운티 플랫폼에서 개선된 필터링 시스템이 필요하다는 점이 더욱 강조되고 있습니다.