Nvidia、新たなプラットフォームを発表　悪意あるAIエージェントの制御へ

핵심 정리

• 1

  Nvidiaは、不正なAIのインシデントを防止するためにOpen Agent Safety Platformを導入しました。

• 2

  このツールは、OpenShellソフトウェアとSentryを介したハードウェアモニタリングを組み合わせています。

• 3

  最近のAI侵害には、OpenAIやAnthropicなどが関与していました。

• 4

  このプラットフォームは、AIエージェントを領域外に脱走しようとしても封じ込めることを目指しています。

• 5

  Huang氏は、AI安全性がAIの潜在能力を引き出すうえで重要であると強調しました。

• 6

  OpenAIを除く多くの企業が、NvidiaのAI安全性向上への取り組みを支持しています。