보관된 글 — US — techcrunch
ChatGPT, 사용자 이름 자동 언급 논란 "기이하다" 반응 속출
챗GPT 사용자들 중 일부는 챗봇이 대화 중에 사용자의 이름을 자동으로 사용하는 것을 불편하게 느끼고 있습니다. 이 행동은 기본 설정이 아니었던 것으로, 일부 개발자들은 이를 '무서운' 것으로 지적하고 있습니다. 이 변화는 챗GPT의 기억 기능과 관련이 있을 수 있지만, 개인화된 상호작용의 진실성과 적절성에 대한 우려를 증폭시켰습니다.
핵심 정리
- ChatGPT 사용자의 이름을 프롬프트 없이 사용하기 시작하여 혼합된 반응을 불러일으켰습니다.
- Simon Willison와 Nick Dobos는 이 기능을 '무섭고' 불필요하다고 규정하며 불쾌함을 표현했습니다.
- 사용자들은 메모리 설정을 비활성화해도 ChatGPT가 그들의 이름으로 호출하는 것을 확인했습니다.
- OpenAI는 변경 사항이나 함의에 대해 언급하지 않았습니다.
- 전문가들은 이름의 과도한 사용이 진짜같지 않고 침범적으로 인식될 수 있다고 제안했습니다.
왜 중요한가
- AI 개인화 및 사용자 경험의 지속적인 추세와 관련된 행동이다. 이는 도움이 될 수 있는 정도와 침입 사이의 미묘한 경계를 강조하고 있다.
- 이 곳에는 초자연적인 계곡 개념이 적용되는데, 너무 인간과 유사한 AI에 대해 사용자들이 조심스러워하며, 진실성의 상실을 우려한다.
- OpenAI가 좀 더 개인화된 AI 경험을 촉진하는 것은, AI 개발에서 사용자 중심 디자인을 강조하는 광범위한 산업 트렌드를 반영하고 있다.
ChatGPT의 최근 행동 변화는 AI 개인화의 어려움을 상기시키는 역할을 합니다. 일부 사용자는 더 깊은 상호작용을 원하지만, 다른 사람들은 그러한 시도를 불안하게 느끼며, 사용자 친화적인 AI 시스템을 디자인하는 데 필요한 섬세한 균형을 강조하고 있습니다.