보관된 글 — US — techcrunch
1년이 지났지만, OpenAI는 여전히 음성 클로닝 도구를 공개하지 않았다
OpenAI의 음성 복제 도구 인 Voice Engine은 지난 3월에 발표되었으나, 아직 출시 일정이 없는 상태이며 잠재적 남용과 규제적 관찰로 인한 우려를 반영하고 있습니다. 음성 치료 및 고객 지원과 같은 분야에서의 유망한 응용 가능성에도 불구하고, 이러한 긴 지연은 음성 복제 남용에 대한 점점 커지는 관심 속에서 OpenAI의 안전한 AI 배치에 대한 헌신에 대한 의문을 불러일으킵니다.
핵심 정리
- 2023년 3월에 OpenAI가 음성 엔진을 발표했으며, 단 15초의 오디오로 음성을 복제할 수 있다고 주장했습니다.
- 2024년 3월 현재, 해당 도구는 일반 공개가 없는 제한된 미리보기 상태에 있습니다.
- 지역한 남용 우려로 인해 지연된 상황인데, 특히 음성 클론 기술의 남용이 증가함에 따라 그렇습니다.
- OpenAI는 안전과 유틸리티를 보장하기 위해 음성 엔진을 신뢰할 수 있는 파트너와 함께 테스트하고 있습니다.
- 음성 엔진은 워터마킹과 본래의 발화자로부터의 명시적인 동의 요구와 같은 안전 조치를 포함하고 있습니다.
- 장애인을 위한 혜택을 비롯한 다양한 응용 프로그램이 있음에도, 개인 정보보호와 보안에 대한 우려로 인해 전개 시기가 연기되었습니다.
왜 중요한가
- 음성 복제 기술은 최근 사기와 딥 페이크로 인해 중요한 문제가 되었는데, 특히 2024년 가장 빠르게 증가한 사기 중에 AI로 만들어진 목소리가 발견되었습니다.
- Voice Engine의 출시 지연은 기업들이 시장 경쟁보다 안전과 윤리적 고려를 우선시하는 인공지능 산업의 전반적인 추세를 반영합니다.
- 이러한 망설임은 기술 배포와 관련된 지난 경험을 반영하는데, 빠른 출시가 기술적 윤리적 문제의 중대한 결과를 낳았기 때문에 기술 설계에 규제가 시작되었습니다.
OpenAI의 Voice Engine의 연장된 미리보기는 AI 음성 복제에 대한 신중한 접근을 보여줍니다. 혁신적인 잠재력과 동시에 사회가 합성 미디어의 복잡성을 탐험할 때 안전 및 윤리적 문제를 균형있게 고려하고 있습니다.