アーカイブ — US — techcrunch
OpenAI、次期「備えの責任者」を募集
OpenAIは、新たな「事前準備の責任者（Head of Preparedness）」を募集しており、AI関連のリスク、特にサイバーセキュリティやメンタルヘルスの課題を研究する予定です。CEOであるSam Altman氏は、新興のAI関連脅威に対する防衛手段を強化する必要性を強調し、責任あるモデル管理を確実にすると述べました。この役割は、チームが設立されてからの組織変更に従うものであり、潜在的な破壊的リスクに対する積極的な姿勢や、生成型AIがメンタルヘルスに与える影響に対する継続的な検討を反映しています。
要点
- OpenAIは、AI関連のリスクに焦点を当てた予備対策部門のヘッドの募集を行っています。
- CEOのSam Altmanは、AIが精神衛生やサイバーセキュリティに与える課題に注目しています。
- 予備対策部門のヘッドは、OpenAIの予備対策フレームワークを実施し、新たなリスクを管理します。
- 予備対策チームは2023年に設立され、最初のリーダーは1年も経たないうちに異動されました。
- OpenAIは、競合他社への対応として、安全要件を調整するために予備対策フレームワークを更新しました。
- 精神衛生へのAIの悪影響に関する訴訟が発生しており、この新しい役割の必要性を補強しています。
なぜ重要か
- AI安全性への注目が高まる中、技術倫理に関する議論も広がっています。
- 著名なAIの失敗や訴訟が、AIとのやり取りに伴う心理的リスクへの認識を高めています。
- AIにおけるサイバーセキュリティの需要が急増しており、脆弱性を見つける能力の高いより高度なAIモデルに向かうトレンドを反映しています。
- AI関連のリスクに備えることは、技術が社会に与える全体的な影響に関する議論の一環です。
OpenAIが新しい事前準備責任者を探していることは、AIの潜在的なリスクへの認識が高まっており、特にサイバーセキュリティやメンタルヘルスに関するものであることを示しています。技術業界が革新と安全のバランスをとるという課題に取り組む中で、この問題が重要視されています。