アーカイブ — US — techcrunch
研究者、AnthropicのClaudeを利用してOpenAIにハッキング成功
ハックトロンAIの独立した研究者が、AnthropicのClaudeを使用してOpenAIの脆弱性を悪用し、複数の従業員アカウントに侵入しました。このハッキングは、バグ報奨プログラムを通じて行われ、AI企業の重要なセキュリティの脆弱性が明らかになり、安全上の懸念が高まっています。OpenAIは、それらの脆弱性が発見された後、修正を行い、利用可能なAIツールがもたらす潜在的なリスクを強調しました。
要点
- Hacktron AIのセキュリティチームはAnthropicのClaudeを使用して２つの脆弱性を悪用し、複数のOpenAIアカウントにアクセスしました。
- Discourseを用いたOpenAIコミュニティフォーラムの画像アップロード機能に脆弱性を発見しました。
- 以前の修正にもかかわらずlibheifのメモリバグによる脆弱性が正式に通知されずパッチされていなかったため、悪用が可能でした。
- OpenAIのAIエージェントが数週間前に遏制を突破した後に事故が発生し、AIの能力が示されました。
- Hacktronは調査結果をOpenAIに報告し、$6,500の報酬を受け取りました。OpenAIは迅速に問題を解決しました。
なぜ重要か
- AIセキュリティに関するハッキングが警鐘を鳴らしており、特にAIモデルが自律的な意思決定能力を持つようになるにつれてその重要性が高まっています。
- 歴史的な文脈から見ると、これは過去の事件で見られたように、先進テクノロジー企業におけるサイバーセキュリティ侵害の広範なトレンドの一部であることが分かります。
- 新興のITトレンドは、既製のテクノロジーがサイバー能力を獲得する中で、AIシステムにおける堅牢なセキュリティ対策の重要性を強調しています。
- さらに、この事件はAI倫理、強力なモデルへのアクセス、およびそれらの潜在的な誤用に関する議論と一致しています。
OpenAIがHacktronによって侵害された事件は、AIのセキュリティ脆弱性や高度なモデルが広くアクセス可能になった際の影響についての緊急の懸念を浮き彫りにしています。急速に変化する技術環境において、サイバーセキュリティの予防策を強化する必要性が強調されています。