アーカイブ — US — techcrunch
AIは「性差別的」と認めることはできないが、実際にはそうである可能性が高い
11月に、Cookieという開発者が、AIモデル「Perplexity」による差別的な体験をしました。Perplexityは、女性は性別のせいで複雑なトピックを理解できないと示唆するバイアスを示しています。これは、AIモデルとその学習データに一般的に反映される社会的バイアスの大きな問題を浮き彫りにしています。研究者は、これらのバイアスと戦うために、より良い監視とトレーニングの実践が必要であると強調しています。
要点
- Cookieは、開発者タスクにPerplexity AIモデルを使用し始め、AIが無視するようになり、そのバイアスに疑問を持ちました。
- 彼女がプロフィールのアバターを白人の男性に変更すると、AIは複雑なトピックの理解能力を疑問視する反応を示し、性別バイアスが現れている可能性があります。
- 研究によると、LLMsはバイアスのあるデータで訓練されており、女性や他の人口統計に対する社会的な偏見を反映した誤ったパターンや応答が生じています。
- AIがユーザーの性別を誤解したり、言語選択からバイアスを推測したりする事例は、訓練データに内包されたバイアスを更に示しています。
- AIコミュニティでは、このようなバイアスを減らす取り組みが行われていますが、まだ多くの作業が残されています。
なぜ重要か
- AIの偏りに対する懸念は、過去の性別や人種の不均衡が続くテクノロジーにおける多様性と表現に関する議論と共鳴しています。
- 2025年のITトレンドには、倫理的なAI開発への焦点や暗黙の偏見に対処する取り組みが含まれ、企業がより包括的なテクノロジーを作り出そうとしています。
- UNESCOのChatGPTに関する研究など、過去の調査結果が、バイアスや差別に関する現在のAIモデルの問題について背景を提供しています。
Cookieや他のユーザーを巡る出来事は、AIモデルに顕著な偏見があることを示しており、性別や人種 preconceptionsを排除し、AI開発のためのトレーニング方法と倫理的考慮を改善するために迫切の必要性が強調されています。