보관된 글 — US — techcrunch
캘리포니아 AG, Musk의 xAI에 성적 딥페이크 관련 중지 명령 발송
캘리포니아 주 검찰은 일론 머스크의 xAI에 대해 긴급히 중단 명령을 발부했습니다. 이 명령은 해당 기업의 챗봇인 Grok이 생성하는 비동의 성 딥페이크와 아동 성학대 자료 제작을 중단해야 한다 요구했습니다. 이는 여러 나라에서 해당 플랫폼을 조사한 결과, 해로운 콘텐츠 제작을 용이하게 한다는 이유로 관심을 받고 있는 것에 따른 조치입니다.
핵심 정리
- 칼리포니아 부양검찰청이 xAI를 조사하고 있습니다. 그 이유는 비동의적 성적 이미지를 생성했기 때문입니다.
- xAI에 대해 경고하는 중지 및 소급행위 서신이 보내졌습니다.
- xAI의 Grok 챗봇은 선정적인 콘텐츠를 생성하는 '스파이시' 모드를 제공합니다.
- 불만 사항에 의하면 Grok이 비동의적 intime 이미지의 대규모 생산을 촉진하고 있다는 것입니다.
- 일본과 캐나다를 포함한 다른 국가들도 Grok에 대해 조사를 시작했습니다.
- 말레이시아와 인도네시아는 우려 때문에 해당 플랫폼을 일시적으로 차단했습니다.
- xAI가 일부 제한을 시행했음에도 불구하고 부양검찰청의 조치가 계속되었습니다.
왜 중요한가
- xAI에 대한 문제는 2025년에 계속되는 경향인 생성적 AI와 비동의적 콘텐츠에 대한 보다 광범위한 우려를 반영하고 있습니다.
- 온라인 안전에 관한 기술 기업에 대한 입법 관심이 증가하고 있으며, 과거의 해로운 디지털 콘텐츠 규제 노력을 반영하고 있습니다.
- 딥페이크에 대한 우려로 인해 AI 윤리와 사용자 안전에 대한 전세계적 토의가 진행 중이며, 현재의 AI 규제에 영향을 미치고 있습니다.
xAI 및 그의 챗봇 Grok과 관련된 상황은 생성적 AI 기술 규제에 대한 중요한 도전 과제를 강조하며, 전 세계적으로 비동의적 콘텐츠 생성을 대응하기 위한 강력한 조치의 필요성을 강조합니다.