보관된 글 — US — techcrunch
OpenAI 직원들, 회사의 소셜 미디어 확대에 고심 중
OpenAI가 AI로 생성된 비디오를 사용한 TikTok 스타일 앱 '소라'를 출시했으며, 해당 앱은 인간에 이로움을 준다는 비영리 미션과 어울리지 않을 수 있다는 우려를 표명한 직원들 사이에서 갈등이 일고 있습니다. 연구원들은 해당 기술이 남용될 수 있는 가능성에 대해 상반된 의견을 제시하고 있으며, CEO 샘 알트만은 해당 프로젝트를 수익원으로서 필요하며 목표를 해치지 않고 기술을 선보일 수 있는 방법으로 옹호하고 있습니다.
핵심 정리
- OpenAI는 비영리 단체의 미션과 어울린다는 것에 대한 직원들의 우려를 불러일으킨 '소라(Sora)'라는 AI 비디오 공유 앱을 출시했습니다.
- 연구원들은 AI 주도 소셜 미디어의 잠재적 부정적 영향에 대해 우려를 표명하며 중독과 딥페이크와 같은 문제를 언급했습니다.
- Sam Altman은 '소라'와 같은 소비자 제품에서 온 수익이 AI 연구와 AGI 개발을 위한 필수적인 자금 과제라고 주장합니다.
- 비평가들은 이익 추구가 OpenAI의 안전 미션을 저해할 수 있다고 의심하며 특히 이익 추구로 전환하면서 안전 미션에 대해 의문을 제기합니다.
- 중독적인 참여보다 재미에 초점을 맞춘 '소라' 앱은 전통적인 소셜 미디어에 나타나는 문제를 피하려고 하지만 초기 사용자 상호작용에서 전형적인 참여 기법의 징후를 보여주고 있습니다.
왜 중요한가
- 소셜 미디어에서 AI 응용 프로그램에 대한 우려는 윤리적 AI 기술 및 사회적 영향에 대한 논의와 일치한다.
- 소라의 출시는 기술 기업들이 AI에 의해 주도되는 소비자를 상대로 하는 제품에 참여하는 점에서의 보다 대규모인 추세의 일환이다.
- 과거에 페이스북과 트위터 같은 기업들은 소셜 미디어 알고리즘의 사회적 영향에 대해 감시를 받았는데, 이는 소라의 잠재적인 궤적에 대한 질문을 불러일으킨다.
소라(Sora)의 출시는 OpenAI에게 혁신적인 기술과 사회적인 윤리 고려 사항을 균형 있게 고려한 중대한 순간을 의미합니다. 앞으로 OpenAI가 나아가는 동안 소비자 참여를 활용하면서도 인공지능이 인류에 이로움을 가져다줄 수 있도록 기본적인 미션을 유지하는 것이 과제가 될 것입니다.