アーカイブ — CN — technode
Ant Group、エージェントおよびマルチモーダルシステム向けAI安全モデルを発表
アント・グループのAIセーフティーラボは、SingGuard-NSFAというオープンソースの安全モデルを発表しました。これは自律エージェントのためのものであり、データの盗難や悪意のあるコードの実行などのリスクを特定します。133の言語で185のシナリオをカバーしており、様々なバージョンを提供し、リスクを約50ミリ秒で評価します。
要点
- アントグループは、AIエージェントのリスクを検出するためのセーフティモデル「SingGuard-NSFA」を開発しました。このモデルは、情報の改ざん、データの盗難、権限の誤用などのリスクに対処します。リスクは7つのメインカテゴリと28のサブカテゴリに分類されており、185のシナリオを収録し、133の言語での評価をサポートします。また、異なるサイズ（0.8B、2B、4B、9B）のバージョンが利用可能です。1つのリスク判断を約50ミリ秒で行うことができます。
なぜ重要か
- 2020年のITトレンドとしてAIの安全性とガバナンスへの重点が増加する傾向がある。
- AI関連のセキュリティリスクへの懸念が高まり、データの整合性やセキュリティ侵害も含まれる。
- 責任あるAIの展開と安全基準を推進する世界的な規制運動と調和している。
アント・グループがAI安全モデルの導入を発表し、自律システムのリスク管理における重要な一歩を踏み出しました。これは、責任あるAI開発とガバナンスに向けた広範な動向と合致しています。