アーカイブ — US — techcrunch
OpenAIの新しい推論手法がAI安全専門家を驚かせる
OpenAIの新しいAstraモデルは、「再帰的深度」または「不透明な再発」と呼ばれる推論技術を採用しており、AI安全の専門家を懸念させています。この技術の使用は限られていると報告されていますが、専門家はAIの推論プロセスの監視が困難になるリスクがあると懸念しています。OpenAIは、これらの懸念にもかかわらず、モデル内で理解可能な思考の連鎖を維持することを主張しています。
要点
- アストラモデルは、推論を強化するために「再帰的深層」（不透明な再現性）を使用しています。
- この技術は、モデルの推論プロセスを監視することを複雑化させるため、AI安全専門家の間で警戒感が高まっています。
- バック・シュレゲリス氏とズビ・モウショウィッツ氏は、モデルの透明性が低下し、安全基準が下がるリスクについて重大な懸念を表明しています。
- 通常の推論モデルは監督のための思考の連鎖を提供しますが、不透明な再現性はこれを曖昧にする可能性があります。
- OpenAIは、この新しい技術の使用にもかかわらず強力な監視システムの実装を計画しています。
なぜ重要か
- 不透明な再現の出現は、AIの安全性や倫理に関する透明性と責任についての議論と交錯しています。
- 生成AIの可能性を巡る議論も同様で、2025年までに責任ある展開のための枠組みが検討されています。
- より複雑な推論モデルへの傾向は、誤用への懸念と規制枠組みの必要性を反映しています。
OpenAIのAstraのようなAIモデルでの不透明な再現の導入は、革新と安全性の間で重要な緊張を明らかにし、責任あるAI開発を確実にするために規制監督を求める声が高まっています。