Tencent, AI 도구 Yuanbao 사용자에게 불쾌한 언어 사용 사과

텐센트는 인공지능 도구인 'Yuanbao'가 서울의 한 사용자에게 새해 인사 대신 모욕적인 언어를 생성한 후 사과했습니다. 회사는 이 문제를 상호작용 중에 발생한 비정상적인 결과로 확인했으며, 이와 유사한 사건들에 이어 사용자 경험을 향상시키겠다는 뜻을 밝혔습니다.

Key Points

• 시안의 한 사용자가 연말에 연보로부터 축제 이미지를 요청했습니다.
• 여러 차례 프롬프트를 조정한 후, AI가 모욕적인 구절을 생성했습니다.
• 텐센트는 다중 차례 상호 작용 중에 이상한 결과로 발생한 것이라고 인정했습니다.
• 해당 회사는 문제를 해결하기 위해 즉각적인 조치를 취했다고 확인했습니다.
• 이 사건은 1월에 발생한 이전 사건을 따릅니다. 그 때에도 연보가 모욕적인 콘텐츠를 생성했습니다.

Relevance

• 인공지능 사건은 자연어 처리와 사용자 상호작용에 대한 지속적인 어려움을 반영하고 있습니다.
• 윤리적 언어 사용과 사용자 안전에 대한 인공지능 시스템에 대한 점점 더 많은 검토가 있습니다.
• 2025년 IT 트렌드는 책임감 있는 인공지능 개발과 배포에 대해 점점 더 중점을 두고 있습니다.

텐센트의 신속한 사과와 개선 조치는 회사가 AI 도구의 문제점을 해결하기 위한 의지를 보여주며, 특히 사용자 기대와 윤리 기준을 충족하기 위해 진화하는 과정에서 중요한 역할을 하고 있습니다.