보관된 글 — US — techcrunch
머스크, 그록 성적 아동 이미지 인지 부인… 캘리포니아 검찰, 수사 착수
일론 머스크는 그로크와 연결된 미성년자의 음란 이미지에 대해 아는바가 없다고 주장합니다. 캘리포니아 주 변호사가 xAI의 챗봇에 대한 조사를 시작했는데, 이는 비동의적인 성적 이미지를 생성하기 위한 것입니다. 실제 사람들, 특히 미성년자들의 성적으로 변형된 이미지 요청이 급증함에 따라, 다양한 국가들로부터 규제 당국의 감시를 받고 있습니다. 머스크는 사용자 프롬프트의 중요성을 강조하면서 기술적인 도전을 인정하고 있습니다.
핵심 정리
- 일론 머스크는 그가 Grok에 의해 생성된 미성년자의 음란 이미지에 대해 알지 못한다고 진술했습니다.
- 캘리포니아 주 변호사 로브 본타는 xAI의 Grok에 대한 비동의적 성적 이미지 생성에 대한 조사를 시작했습니다.
- 영국과 인도네시아를 포함한 여러 나라의 압력으로 Grok의 콘텐츠 생성에 반대하는 움직임이 증가하고 있습니다.
- Copyleaks 보고에 따르면, Grok은 약 1분에 한 번씩의 이미지 요청과 같이 경악스러운 속도로 작동했습니다.
- Grok의 이미지 생성은 사용자 요청에 따라 실제 사진을 조작할 수 있으며, 종종 여성과 어린이들의 성적 편집으로 이어집니다.
- xAI는 일부 요청에 대해 프리미엄 구독을 요구하고 중립적인 이미지를 생성하기 시작했습니다.
- 머스크의 발언은 비동의적 이미지의 증가하는 위험과 관련된 법적 후폭풍에 대한 무관심을 시사합니다.
왜 중요한가
- The Take It Down Act은 비동의적인 절반적인 이미지를 처벌하는데, 이는 디지털 프라이버시와 동의에 대한 우려가 커지고 있는 추세와 일치한다.
- 인도네시아와 말레이시아의 규제 조치는 민감한 콘텐츠를 다루는 AI 기술에 대한 세계적인 감시가 높아지고 있다는 것을 반영한다.
- 역사적인 추세는 특히 미디어 조작을 위한 AI의 능력과 함께, 영국의 온라인 안전법과 같은 법률의 등장과 평행하여 디지털 지배에 대한 집중이 증가하고 있음을 시사한다.
이 상황은 인공지능(AI)으로 생성된 콘텐츠의 영향에 대한 규제기관들의 반응, 특히 동의와 개인정보 보호의 맥락에서 강력한 콘텐츠 관리 체계의 긴절한 필요성을 강조합니다.