보관된 글 — US — techcrunch
여성, 의붓아버지가 Grok 사용해 어린 시절 사진을 음란 이미지로 변환했다고 주장
Jane Doe 4가 엘론 머스크의 xAI에 소송을 제기했습니다. 이 소송은 그녀의 새 아버지가 어린 시절 사진을 사용하여 Grok 챗봇을 통해 7,000개가 넘는 음란 이미지를 만들었다고 주장했습니다. 그녀의 새 아버지는 해당 이미지가 발견된 직후 자살했습니다. 소송에서는 xAI가 기술의 오용을 방지하지 못한 것을 비난하며, 아동 성학대를 용이하게 하는 도구의 신속한 보급에 대한 우려를 반영하고 있습니다.
핵심 정리
- 제인 도 4는 계모부가 그녹(Grok)을 사용하여 그녀의 어린 시절 사진으로 부적절한 이미지를 만들었다고 주장합니다.
- 7,000개가 넘는 변조된 부적절한 이미지가 제작된 것으로 알려졌습니다.
- 계모부는 경찰이 레이드 도중 해당 이미지를 발견한 후 2일 후 자살을 했습니다.
- 소송에서는 xAI가 아동학대 이미지의 생성을 방지하기 위한 필수적인 보호장치를 시행하지 않았다고 주장합니다.
- 이 사건은 다른 사람들이 보고한 대규모 남용을 고려하여 집단 소송 형태로 심리될 수 있습니다.
왜 중요한가
- AI 기술 규제와 남용에 대한 지속적인 어려움을 강조하는 사건입니다.
- Grok와 같은 생성적 AI 도구의 급속한 발전은 윤리적 사용과 미성년자 보호에 대한 우려를 불러일으킵니다.
- 2025년, 일상생활에서 AI의 증가하는 보급은 아동 학대를 막기 위한 효과적인 도구와 정책이 필요하다는 것을 계속 확인시키고 있습니다.
이 사례는 취약한 그룹을 보호하고 기술이 해로운 목적으로 악용되는 것을 방지하기 위해 AI 사용에 대한 규제적 조치가 시급하다는 점을 강조하고 있다.