アーカイブ — US — techcrunch
OpenAIの最新AIモデルにバイオリスクを防ぐ新しい安全策導入
OpenAIは、o3とo4-miniというAIモデルが生物学的および化学的脅威に関する有害なアドバイスを提供しないように監視するための新しい安全システムを発表しました。このシステムは、そのようなリスクに関連する要求を拒否するように設計されており、リスクを含む提示の98.7%をブロックすることが示されています。ただし、OpenAIの全体的な安全対策やテスト手法に関する懸念が依然として残っています。
要点
- OpenAIは、生物学や化学リスクに関する有害なアドバイスを提供しないようにモデルを監視するシステムを導入しました。
- このシステムは、以前のモデルと比べて能力が向上したo3とo4-miniでの安全対策を強化しています。
- 内部テストでは、リスキーなプロンプトをブロックする成功率が98.7%であることが示されました。
- OpenAIは、自動監視に加えて人間の監視の必要性を認識しています。
- 外部研究者からは、安全優先順位やテスト時間の適切さに関する懸念があります。
なぜ重要か
- 2025年現在、AIの安全性は急速な進歩と潜在的な誤用の可能性から重要な懸念事項です。
- 過去のAIによる誤情報に関連する出来事は、AI開発におけるしっかりした安全対策の必要性を浮き彫りにしています。
- 一般市民や規制当局の監視に対する対応として、AIモデルに自動安全システムを導入する傾向が増しています。
OpenAIの新しい監視システムを導入する積極的な取り組みは、AIの安全性がますます優先されていることを反映しています。しかし、引き続き寄せられる批判は、革新とセキュリティのバランスがAI開発において依然として課題であることを示しています。