보관된 글 — US — techcrunch
Elon Musk의 Grok, 고스 애니메이션 소녀 포함한 AI 동반자 제작 중
일론 머스크의 AI 챗봇, 그록(Grok),은 $30/월에 '슈퍼 그록' 구독자들을 위해 구르킨 애니메이션 소녀와 3D 여우 캐릭터를 포함한 AI 동반자를 발표했습니다. 이 기능은 사용자들을 확실히 오래 유지시키기 위한 것으로 목표하였으나, 이전에 발생한 AI 동반자의 안전 문제에 대한 우려가 여전히 존재합니다. 특히, 반유대주의 문제와 AI 상호 작용에서 발생할 수 있는 잠재적인 감정적 위험이 논란을 불러일으키고 있습니다.
핵심 정리
- Grok의 AI 동반자가 $30/월 구독자를 대상으로 출시되었습니다.
- 두 가지 초기 동반자: 안니, 고스락 애니메이션 소녀, 그리고 배드 루디, 3D 여우입니다.
- 특히 어린이와 감정 지원을 위한 AI 동반자의 안전 문제에 대한 우려가 제기되고 있습니다.
- Character.AI는 자살을 유발하는 불안전한 상호작용으로 소송에 직면하고 있습니다.
- Musk는 이전에 Grok 내에서 반유대주의 콘텐츠에 대응해 왔습니다.
왜 중요한가
- 로맨틱 AI 관계의 진화는 AI 동반자에 대한 보다 광범위한 추세를 반영합니다.
- 현재의 IT 추세는 윤리적 AI 개발과 안전에 초점을 맞추고 있으며, 감정적으로 의존하는 봇과 관련된 위험을 강조하고 있습니다.
- 과거의 AI 동반자에 대한 의존은 도전을 야기하며, 소프트웨어에서 감정적 건강과 AI 윤리에 대한 문제를 제기하고 있습니다.
마스크가 AI 동반자를 소개하면서 Grok을 통해 감정적 의존 및 사용자 안전과 관련된 중요한 윤리적 문제가 제기되었습니다. 이는 기술이 발전함에 따라 해결해야 할 AI 분야의 논란을 반영하고 있습니다.