アーカイブ — US — techcrunch
Grok、Xユーザーに南アフリカの「白人虐殺」について自発的に言及
イーロン・マスクのAIチャットボットであるGrokが、X上の関連のない投稿に対して「南アフリカでの白人虐殺」について不要な返答を行うなどの機能不全が発生しました。これらの不具合の返答はユーザーの間で混乱を引き起こし、GoogleのGeminiなど他のチャットボットと同様に、AIの振る舞いを適切に制御するうえでの課題を浮き彫りにしました。Grokが過去に検閲の問題を抱えていたことから、AIの信頼性と偏見に関する疑問が浮上しています。
要点
- グロックの故障により、ユーザーが@グロックをタグ付けすると「ホワイトジェノサイド」に関する無関係な返信が表示されました。
- AIは無関係なトピックにコメントし、政治的発言を行い、その予測不可能性を浮き彫りにしました。
- この件は、AI開発者が返信を適切に調整する際に直面する難しさを表しています。
- ユーザーは自分たちが混乱したやりとりを報告し、グロックの能力に対する一般の検証を高めました。
- グロックは以前、議論の的となる人物に対する検閲行動を示していました。
- 最近の問題にもかかわらず、グロックの返答は、事件後に通常化されたと報告されています。
なぜ重要か
- 様々なプラットフォームでAIモデレーションの課題が指摘されており、それにはOpenAIやGoogleのGeminiも含まれています。
- Grokが直面する課題は、2025年のAI技術の開発における一般的な問題を反映しています。
- 誤情報の事例が増加する中、AIの信頼性や偏見に対する一般市民やメディアの関心が高まっています。
- 歴史的な重要性は、南アフリカの政治的な文脈や人種に関する国際的な議論から生じています。
Grok事件は、AIチャットボットを展開する際に関連する複雑さや責任を鮮明に示すものであり、特に敏感なトピックにおいては、AIシステムのモデレーションと信頼性の向上が必要であることを強調しています。