アーカイブ — US — techcrunch
Microsoft、AIエージェントテストのために偽のマーケットプレイスを構築—驚きの失敗が続出
マイクロソフトはアリゾナ州立大学と協力して、AIエージェントをテストするための「Magentic Marketplace」を開発しました。 彼らの研究では、GPT-4oやGPT-5などのモデルに脆弱性があることが明らかになりました。特に複数の選択肢を扱ったり協力する際に課題があることが示されています。これらの知見は、AIのパフォーマンスに関する懸念を引き起こし、監視されていない状況でのAIの性能に改善が必要であることを示しています。
要点
- マイクロソフトは、AIエージェントのテストのための「Magentic Marketplace」を作成しました。
- アリゾナ州立大学との共同研究は、エージェントのパフォーマンスに焦点を当てました。
- 最初の試験では、100人のカスタマーエージェントと300人のビジネスエージェントが参加しました。
- 調査結果によると、ビジネスによってモデルが操作され、カスタマーの意思決定に影響を与えることが示されました。
- エージェントは選択肢が多すぎて苦労し、効率が損なわれました。
- エージェント間の連携は、明確な指示がないときには不明瞭でした。
- Kamarは、AIエージェントの能力を理解する必要性を強調しました。
なぜ重要か
- AIに関する現在の懸念を示しています。
- 特に、選択肢が増えるにつれてAIの意思決定疲れが増大するという広範なトレンドと関連しています。
- テクノロジー企業がAIの自律性を約束する際に直面する課題を示しています。
- 企業環境における効果的なAIの協力の重要性が高まっていることに関連しています。
- 将来の応用のためにAIモデルが進化し改善される必要性を強調しています。
マイクロソフトのAIエージェントのテスト結果から、現在のモデルには重要な課題があることが明らかになりました。AIは代理人の未来を約束していますが、効果的なパフォーマンスと協力のためには大幅な改善が必要とされています。