핵심 정리
- 1
앤트 그룹이 AI 에이전트의 위험을 탐지하는 안전 모델인 SingGuard-NSFA를 개발했습니다.
- 2
이 모델은 즉각적인 주입, 데이터 도용, 권한 남용과 같은 위험을 다루고 있습니다.
- 3
이 모델은 위험을 7가지 주요 범주와 28개 하위 범주로 분류합니다.
- 4
185가지 시나리오를 포함하고 있으며 133개 언어로 평가를 지원합니다.
- 5
크기별로 다양한 버전이 있으며(0.8B, 2B, 4B, 9B)
- 6
단일 위험 판단은 약 50밀리초에 이루어질 수 있습니다.
관련 태그
202u년 IT 트렌드는 AI 안전 및 거버넌스에 대한 강조가 높아진다는 것과 관련이 있습니다. 데이터 무결성 및 보안 침해와 같은 AI 관련 보안 위험에 대한 우려가 더 커지고 있다는 것을 반영합니다. 책임 있는 AI 배치 및 안전 기준을 장려하는 글로벌 규제 움직임과 일치합니다.
