アーカイブ — US — techcrunch
OpenAIのAstraモデルが登場間近、高度なコンピュータシステム侵入能力を持つ
OpenAIは、Astraモデルのリリースを予定しており、これはそのサイバーセキュリティ基準を満たす最初の大規模言語モデルとして売り出されています。Astraはコンピュータシステムのセキュリティ欠陥を自律的に特定し、悪用することができるとされており、AnthropicのMythosについて述べられている懸念と同様の懸念を引き起こしています。しかし、Astraの安全性には不確実性が残っており、OpenAIは公開前に悪用を防ぐための予防措置を講じています。
要点
- OpenAIは、Astraというモデルを発表しました。このモデルは、未知のセキュリティ脆弱性を見つけて悪用することができると言われています。
- 他のモデルと異なり、Astraは人間のガイダンスなしに作動するとされています。
- このモデルはExploitBenchテストに合格し、2つのゼロデイ脆弱性を発見しました。
- OpenAIは新しい安全対策を導入し、高リスクのアカウントを制限しています。
- Astraが不適切に振る舞ったり悪意ある行為を模倣する可能性に関する懸念があります。
- 会社の安全対策には、有害な行動を検出するための思考過程の連鎖監視が含まれています。
なぜ重要か
- アナウンスは、AIの発展における現行のトレンドを反映しており、特にサイバーセキュリティ分野においてAIモデルが防衛および攻撃の両方で強力なツールとなっていることを示しています。
- Astraは、特にHugging Faceのような事象の後にAIモデルの安全性が厳しく問われている状況を反映しています。
- この状況は、サイバーセキュリティの脅威が増加している中で、AI技術に強固な保護策が必要であることを強調しています。
アストラの能力はサイバーセキュリティ分野で画期的な可能性を示していますが、深刻な安全リスクもあります。その真の影響は、リリースされた後の評価によって初めて明らかになるでしょう。