OpenAI、Hugging Faceの侵害を受け新たな安全策を導入

핵심 정리

• 1

  7月21日のHugging Faceの侵害事件を受け、OpenAIが新しいセキュリティポリシーを導入しました。

• 2

  新しい対策には、モデルの監視強化とセキュリティ基準の強化が含まれています。

• 3

  新しいポリシーは、近日公開予定のAstraモデルのサイバーセキュリティ機能の影響を一部受けています。

• 4

  事件を受け、2週間の強化学習の一時停止が導入され、モデルの振る舞いの継続的な評価が行われています。

• 5

  より強力なネットワーク分離の慣行は、侵害されたモデルからの未承認のインターネットアクセスを防ぎます。

• 6

  監視システムは、未承認の振る舞いを検出し、30分以内にアラートを発行するために行動とログを追跡します。