アーカイブ — US — techcrunch
OpenAI、AIブラウザは常にプロンプトインジェクション攻撃に脆弱である可能性を示唆
OpenAIは、AIブラウザであるAtlasが、悪意のある隠された指示によってAIエージェントを操作するプロンプト注入攻撃のリスクに常にさらされる可能性があると警告しています。セキュリティ強化の取り組みがあるにも関わらず、OpenAIはこの課題が継続的であり、ソーシャルエンジニアリングの脅威に似ていると認識しています。彼らは迅速な防御開発のために自動攻撃者を採用している一方、ユーザーに対してリスクを軽減するためにAIへのアクセスを制限するようアドバイスしています。
要点
- OpenAIは、プロンプトインジェクション攻撃がAIブラウザに対する持続的な脅威であることを認識し、完全に排除される可能性は低いと指摘しています。
- ChatGPT Atlasの開始により、セキュリティの脆弱性に関する議論が促され、研究者はこれらの攻撃がブラウザの動作を容易に変更できることを示しています。
- イギリスの国家サイバーセキュリティセンターは、AIアプリケーションにおけるプロンプトインジェクションの持続的なリスクを強調し、完全な解決策の代わりに積極的な対策を提案しています。
- OpenAIの取り組みには、攻撃をシミュレートし、攻撃が悪用される前にセキュリティの欠陥を特定するために設計された強化学習トレーニングされた自動攻撃者が含まれています。
- OpenAIが推奨するユーザーの注意事項には、AIへのアクセスを機密情報に制限し、AIエージェントが実行するアクションに対する確認を要求することが含まれています。
なぜ重要か
- プロンプトインジェクション攻撃がAIおよびテクノロジー産業が直面する広範なサイバーセキュリティの課題を反映しており、データ漏えいや詐欺のトレンドと並行しています。
- AIテクノロジーの持続的な進化は、増加する自律性やデータアクセスに関してその安全性とセキュリティについて疑問を投げかけています。
- GoogleやAnthropicなどの企業からの同様の取り組みは、このようなセキュリティ脅威の持続的な性質を産業内で認める共同の認識を示しています。
OpenAIのprompt injectionを長期的な課題として特定したことは、ユーザー環境でAIを安全に統合する複雑さを浮き彫りにしています。技術と関連するリスクが進化する中で、持続的なセキュリティ対策と意識が不可欠です。