보관된 글 — US — techcrunch
분석 결과, AI의 중국 관련 답변 언어에 따라 차이 보여
중국에 관한 AI 응답은 언어에 따라 다양하며 연구에 따르면 중국어로는 정치적 질문에 대답을 거부하는 반면, 영어로는 더 직접적인 답변을 한다고 합니다. 전문가들은 이러한 격차가 훈련 데이터의 부족과 문화적 차이로 인한 것으로 이론을 세우고, 언어 간 정치적으로 민감한 콘텐츠를 처리하는 효과적인 AI에 대한 의문을 제기하고 있습니다.
핵심 정리
- DeepSeek의 R1은 정치적으로 민감한 주제를 검열하며, 관련 질문의 85%를 거부합니다.
- 2023년 법에 따르면 중국의 AI 모델은 국가 단합에 해를 끼치는 콘텐츠를 피합니다.
- AI 프롬프트는 언어에 따라 다른 결과를 제공하며, 중국어로 된 모델은 반응이 적습니다.
- 연구원 xlr8harder는 미국 모델도 언어 준수에서 불균형을 보인다고 발견했습니다.
- 전문가들은 언어 모델이 중국어로 정치적으로 민감한 답변을 처리하는 데 한계를 겪을 수 있으며, 이는 한정된 중요한 데이터 때문이라고 제안합니다.
- AI 교육 데이터는 모델 반응에 영향을 미치며, 문화적, 맥락적인 도전에 주목됩니다.
왜 중요한가
- 2023년, 중국에서 AI 생성 콘텐츠 규제가 강화되었습니다.
- AI에서의 일반화 실패 현상은 모델 훈련 및 검열과 관련된 넓은 추세와 관련이 있습니다.
- AI의 역할과 주권에 대한 논쟁은 모델이 점점 문화적 맥락에 의해 형성되는 것에 관해 더 커졌습니다.
연구는 AI가 정치적으로 민감한 문제에 대해 소통하는 데 중요한 도전을 강조하며, 문화적 맥락의 중요성과 AI 모델이 교육과 규제 프레임워크에서 발전해야 한다는 필요성을 강조합니다.