ISO/IEC 27090, AI 시스템을 안전하게 만들겠다

무슨 일이 있었나

표준화 기구 ISO와 IEC가 ISO/IEC 27090을 발표했습니다. 제목은 "Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems"입니다. 이 문서는 AI 시스템에만 나타나는 보안 위협을 설명하고, 그 결과를 알려 주며, 위협을 찾아내고 막는 방법을 제시합니다. 인증서는 없습니다. 반드시 지켜야 하는 요구사항이 아니라 안내서입니다.

핵심 사실

• 첫 번째 판은 56쪽입니다.
• ISO/IEC 27000 시리즈를 맡고 있는 하위위원회 JTC 1/SC 27이 만들었습니다.
• 이 프로젝트는 2022년 9월에 승인되었고, 위원회 초안은 2024년 1월에 나왔으며, DIS 투표는 2025년 7월에 끝났습니다.
• 영어로만 제공되며, PDF나 인쇄본 가격은 스위스 프랑 204입니다.

다루는 공격 종류

이 지침서는 여러 공격 유형을 다룹니다. 데이터 포이즈닝은 학습 데이터에 나쁜 데이터를 넣는 것입니다. 모델 가중치 조작은 모델 내부 설정을 바꾸는 것입니다. 회피 공격은 속인 입력으로 모델을 속이는 것입니다. 모델 추출은 인터페이스를 통해 모델을 복사하는 것입니다. 멤버십 추론과 모델 역전은 학습 데이터에 대한 정보를 알아내려는 공격입니다. 프롬프트 인젝션과 모델 출력을 통한 공격도 포함됩니다. 부록 하나는 공격을 AI 수명주기 단계와 영향받는 자산에 연결하고, 다른 부록은 기존 공격의 AI 버전을 설명합니다. 도구를 사용하는 에이전트형 AI 시스템은 간단히만 다룹니다.

왜 중요한가

이 지침서는 빈틈을 메웁니다. ISO/IEC 27001과 27002는 일반적인 IT 보안을 다루고, ISO/IEC 42001은 AI 보안 통제를 요구하지만 공격은 명시하지 않습니다. ISO/IEC 27090은 일반 통제가 여전히 효과적인 부분과, 모델, 학습 데이터, ML 파이프라인에 추가 보호가 필요한 부분을 보여 줍니다. 유럽 기업에게 이번 발표는 법을 바꾸지 않습니다. AI 법(AI Act)이나 사이버 복원력법(Cyber Resilience Act)에 따른 적합성 추정을 주지도 않습니다. CEN/CENELEC JTC 21은 아직 초안 단계인 조화 표준 prEN 18282를 계속 만들고 있습니다.

앞으로 지켜볼 것

• AI 시스템의 프라이버시를 다루는 ISO/IEC 27091은 최종 초안(Final Draft) 단계에 있습니다.
• CEN/CENELEC JTC 21의 조화 표준 prEN 18282는 아직 초안입니다.
• ETSI는 TS 104 223을 발표했습니다. ISO/IEC 27090, prEN 18282, TS 104 223 사이의 대응표는 아직 없습니다.