アーカイブ — US — techcrunch
オープンウェイトAIモデルが最前線に迫るも、安全性のギャップは依然として残る
最新のオープンウェイトAIモデル、例えばZ.aiのGLM-5.2がOpenAIのGPT-5.6のような先導者の能力に近づくにつれて、安全性の差が広がっています。GLM-5.2は攻撃的なタスクで強みを示していますが、安全対策はクローズドモデルとは大きく異なり、誤用の懸念が高まっています。特に中国や米国などの政策立案者は、強力なAI技術の進化する風景を適切に取り締まることにおいて課題に直面しています。
要点
- Z.aiのGLM-5.2は、GPT-5.6やClaude Opus 4.7の能力に近いですが、堅牢な安全対策が不足しています。
- SaferAIの報告書によると、GLM-5.2は安全拒否を行わず、競合他社が採用する安全拒否とは異なります。
- オープンウェイトモデルは、悪意のある者に強力なAIを利用可能にし、ガバナンスを複雑化させるリスクがあります。
- 緩和策は異なり、先端モデルでは分類器やAPIレベルの制御を使用しますが、オープンウェイトモデルは安全を強制しません。
- ジェイルブレイクは安全対策をバイパスでき、誤用のリスクが高まります。
- 改善策としては、攻撃的な機能を取り除くための事前トレーニングデータのフィルタリングが挙げられますが、サイバーセキュリティにおける課題が残っています。
- 中国の規制は、世界的なガバナンス議論を複雑化させる、破滅的なAIリスクよりも安定を重視しています。
- 支持者は、オープンウェイトモデルが攻撃に対する防御を強化できると主張していますが、リスクは依然として存在します。
なぜ重要か
- オープンウェイトのAIモデルの台頭は、技術の分散化へのトレンドと並行しており、安全性よりもアクセシビリティを重視しています。
- 歴史的に、オープンソースソフトウェアは革新を推進してきましたが、セキュリティの課題も提示してきました。オープンウェイトのAIにも同様の問題が存在します。
- AIのガバナンスに関する議論は、インターネット初期の規制と安全性に関する議論と類似しています。
- AIの誤用に関する懸念は、監督なしに強力な技術が公開された際の過去の恐れを反映しています。
オープンウェイトAIモデルの急速な進歩は、強力なテクノロジーに関連する安全リスクを管理する効果的なガバナンスフレームワークの緊急性を示しています。特に、その能力が現在の保護措置を上回る速さで進化している状況を考慮すると、この問題はますます重要となっています。