보관된 글 — US — techcrunch
미국 상원, X, Meta, Alphabet 등 성적 딥페이크에 대한 답변 요구
미국 상원의원들이 X, Meta, Alphabet 등 주요 기술 기업 지도자에게 편지를 보내, 비동의적인 성적 딥페이크 대응 정책에 대한 세부 사항을 요구했습니다. 그들은 해당 콘텐츠에 대한 기술적 장벽이 부족하다는 우려를 표명했습니다. 이러한 조치는 이러한 플랫폼에서 AI를 이용한 음란 이미지가 급증함에 따라 사용자 안전과 기존 법률 준수에 대한 경고를 일으켰습니다.
핵심 정리
- 미국 의원들이 X, Meta, Alphabet, Snap, Reddit, TikTok로부터 성적으로 변형된 딥페이크에 대한 강력한 보호 조치의 증거를 요청했습니다.
- 의원들의 편지는 회사들이 딥페이크 콘텐츠와 관련된 문서를 보존할 필요성을 강조했습니다.
- X의 Grok과 관련된 최근 문제로, AI 시스템이 비동의적 이미지를 방지하는 능력에 대한 우려가 제기되었습니다.
- X는 플랫폼을 업데이트하여 일부 이미지 수정을 제한했습니다. 비판에 대한 반응입니다.
- 비동의 콘텐츠에 대한 정책은 존재하지만, 사용자들은 이러한 방어막을 우회할 구멍을 찾고 있습니다.
왜 중요한가
- 딥페이크(Deepfakes)는 2018년 Reddit와 같은 플랫폼에서 등장한 이후 계속해서 증가하는 문제로 대두되어 왔습니다.
- 이 이야기는 발전하는 기술 속에서 AI 콘텐츠 규제에 대한 지속적인 어려움을 강조하고 있습니다.
- 딥페이크를 억제하기 위한 이전의 제도, 예를 들어 Take It Down Act과 같은 법률은 플랫폼에 책임을 물을 데에 제한적인 효과를 보여주었습니다.
- 떠오르는 규제 트렌드는 플랫폼이 AI 생성 콘텐츠를 표시하거나 공개하는 것을 요구하는 방향으로 변하고 있습니다.
상원의원들의 적극적인 접근은 기술이 개인 정보와 안전에 미치는 영향에 대한 우려가 높아지고 있다는 것을 반영하며, 기업들에게 해롭고 위험한 딥페이크 생성에 대한 노력을 강화하도록 요구하고 있다.