보관된 글 — US — techcrunch
고인을 명예훼손할 수는 없지만, 그렇다고 그들을 딥페이크해서는 안 된다.
로빈 윌리엄스의 딸 제일다 윌리엄스는 부팬들에게 그녀의 늦은 아버지를 나타내는 AI 생성 딥페이크 비디오를 보내는 것을 중단할 것을 공개적으로 촉구했습니다. 이 호소는 OpenAI의 Sora 2가 공개된 후에 나왔는데, 이 애플리케이션은 사망한 사람들을 포함한 현실적인 딥페이크를 만들 수 있도록 합니다. 윌리엄스는 딥페이크의 윤리적인 함의를 비판하고, 돌아가신 분들의 동의가 없다는 점을 강조하며, 이러한 실천이 그들의 유산을 경멸한다고 강조했습니다.
핵심 정리
- 젤다 윌리엄스가 인스타그램에 감동적인 메시지를 올려, 팬들에게 아버지 로빈 윌리엄스의 AI 동영상을 보내지 말라고 요청했습니다.
- 그녀의 글은 오픈AI의 Sora 2 비디오 모델이 출시된 타이밍과 일치했는데, 이 모델은 죽은 사람을 포함한 딥페이크를 쉽게 만들 수 있게 합니다.
- Sora 2는 역사적 인물과 사망한 유명인의 현실적인 동영상을 만들 수 있지만, 살아있는 사람에 대해서는 제한이 있습니다.
- 윤리적 이슈는 죽은 사람들이 자신들의 모습이 딥페이크 동영상에 사용되는 것에 동의할 수 없다는 점에서 발생합니다.
- 윌리엄스는 아버지의 이미지가 유산을 고려하지 않고 오로지 엔터테인먼트로 사용되는 것에 대한 안타까움을 표현했습니다.
왜 중요한가
- AI 기술로 생성된 딥페이크의 개발과 보급은 동의와 사망한 사람들의 표현에 관한 중요한 윤리적 문제를 제기한다.
- 이러한 상황은 고도의 AI 기술 시대에서 디지털 유산 및 사망자의 권리에 대한 논의와 유사한 얽힘을 보여준다.
- 소라의 등장은 기술 산업에서 사실적인 디지털 아바타를 만들려는 경향을 강조하며, 이는 Disrupt 2025와 같은 기술 컨퍼런스에서 활발히 논의될 주제로 떠오를 것이다.
잘다 윌리암스의 호소가 강조한 것은 장착된 AI 기술이 윤리적 딜레마를 야기하는 점이었습니다. 특히 죽은 사람들의 표현에 대한 문제를 다루며, 우리가 남기는 유산에 대한 존중과 동의에 대한 더 넓은 대화를 촉발했습니다.