アーカイブ — US — techcrunch
OpenAIの元政策責任者が同社のAI安全性の歴史「書き換え」を批判
マイルス・ブランデージ氏は、OpenAIの前ポリシーリードであり、同社を非難しました。特に、GPT-2の展開戦略に関するAIセーフティの歴史を「書き換えている」と批判しています。彼は、OpenAIの最近の文書が、GPT-2のリリース時に潜在的な誤用を防ぐことを目的とした慎重なアプローチを誤って表現していると主張しています。彼の懸念は、OpenAIが進展するAI技術と安全性との間で抱える継続的な緊張を浮き彫りにしています。
要点
- マイルズ・ブランデージ氏が、ソーシャルメディア上でOpenAIを批判しました。彼はOpenAIがAIの安全性に関する歴史を誤解していると述べました。
- OpenAIは、現在のAI安全性に関する考えをまとめた文書を公表しました。AGIの展開に向けて継続的な道筋を重視しています。
- ブランデージ氏は、OpenAIがGPT-2のリリースに慎重なアプローチを取ったことを指摘しました。これは彼らの現在の考え方と一致しています。
- 一部の専門家はGPT-2の誤用に関する警告が誇張されていると感じていたが、ブランデージ氏はその慎重さを正当化しています。
- OpenAIの競争環境は、製品の迅速なリリースを求める圧力を高めており、それが安全性を損なう可能性があります。
なぜ重要か
- AIの安全性と急速な展開に関する議論は、かつてテック企業が安全性よりも市場シェアを優先してきた歴史的文脈を反映しています。
- AIの誤用や安全性への懸念は、AI競争のなかで深まり、DeepSeekなどの競合プレーヤーが登場することで一層高まっています。
- OpenAIのAGI準備チームの解散やセーフティリサーチャーの離脱は、イノベーションと安全性のバランスをとる組織上の課題を示しています。
ブランデージの批判は、人工知能技術の急速な進歩が短期的な利益をもたらす一方で、安全性や倫理的な展開の長期的な影響を見逃してはいけないことを思い起こさせるものです。