ISO/IEC 27090、AIシステムを安全にすることを目指す

何が起きたか

標準化団体のISOとIECが、ISO/IEC 27090を発表しました。タイトルは「Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems」です。この文書は、AIシステムだけに起きるセキュリティ上の脅威を説明し、その影響を示し、見つけて防ぐ方法を挙げています。認証書はありません。守らなければならない要求事項ではなく、手引きです。

主な数字と事実

• 初版は56ページです。
• ISO/IEC 27000シリーズを担当する小委員会JTC 1/SC 27が作りました。
• プロジェクトは2022年9月に承認され、委員会原案は2024年1月に出ました。DIS投票は2025年7月に終わりました。
• 英語版のみです。PDFまたは印刷版で204スイスフランです。

扱われている攻撃の種類

この指針は多くの攻撃の種類を扱います。データポイズニングは、学習データに悪いデータを混ぜることです。モデル重みの改ざんは、モデル内部の設定を変えることです。回避攻撃は、細工した入力でモデルをだますことです。モデル抽出は、インターフェースを通じてモデルを複製することです。メンバーシップ推論とモデル反転は、学習データについての情報を得ようとする攻撃です。プロンプトインジェクションや、モデル出力を通じた攻撃も含まれます。付録の一つは、攻撃をAIのライフサイクルの段階と影響を受ける資産に結びつけます。別の付録は、従来の攻撃のAI版を説明します。ツールを使うエージェント型AIシステムは、簡単に触れられているだけです。

なぜ重要か

この指針は、すき間を埋めるものです。ISO/IEC 27001と27002は通常のITセキュリティを扱い、ISO/IEC 42001はAIのセキュリティ対策を求めますが、攻撃の名前は挙げていません。ISO/IEC 27090は、通常の対策がまだ効く部分と、モデル、学習データ、MLパイプラインに追加の保護が必要な部分を示します。欧州の企業にとって、今回の発表で法律が変わることはありません。AI法やサイバーレジリエンス法に基づく適合の推定を与えるものでもありません。CEN/CENELEC JTC 21は、まだ草案段階の整合規格prEN 18282に取り組んでいます。

今後注目すべき点

• AIシステムのプライバシーを扱うISO/IEC 27091は、最終草案(Final Draft)の段階にあります。
• CEN/CENELEC JTC 21の整合規格prEN 18282は、まだ草案です。
• ETSIはTS 104 223を発表しました。ISO/IEC 27090、prEN 18282、TS 104 223の間の対応表はまだありません。