アーカイブ — US — techcrunch
AIの回答は言語によって中国に関する見解が異なるという分析結果
中国に関するAIの回答は、言語によって異なり、訓練データのバイアスや検閲の実践が明らかになっています。ある研究によると、DeepSeekのR1などのモデルは、中国語では政治問い合わせを拒否する傾向がありますが、英語ではより率直な回答が見られます。専門家は、訓練データの不足や文化的なニュアンスがこれらの違いに貢献しており、言語間で政治的に敏感な内容を処理する際のAIの有効性に疑問を投げかけています。
要点
- DeepSeekのR1は政治的に敏感なトピックに対して検閲し、関連する質問の85%を拒否しています。
- 2023年の法律により、中国のAIモデルは国家統一を損なうコンテンツを避けます。
- AIのプロンプトは言語によって異なる結果をもたらしています：モデルは中国語では反応が薄い傾向にあります。
- 研究者xlr8harderは、アメリカのモデルも言語ごとに従う度合いに不均等があることを発見しました。
- 専門家は、言語モデルが中国語で政治的に敏感な回答に苦労する可能性があると指摘し、それは十分な重要なデータが限られていることに起因しているかもしれません。
- AIのトレーニングデータはモデルの回答に影響を与え、文化的および文脈的な課題を浮き彫りにします。
なぜ重要か
- 2024年になると、中国でAI生成コンテンツの規制が強化されました。
- AIにおける一般化の失敗現象は、モデルのトレーニングや検閲の広範な動向と関連しています。
- AIの役割と主権に関する議論が拡大しており、モデルが文化的背景によってますます形作られていることが焦点となっています。
研究は、AIが政治的に敏感な問題について伝える際の重要な課題を強調し、文化的な文脈の重要性とAIモデルがトレーニングと規制フレームワークで進化する必要性を示しています。