보관된 글 — US — techcrunch
OpenAI, 아직 API에 심층 연구를 도입하지 않는 이유는?
OpenAI은 AI가 오도 정보를 확산할 수있는 위험을 평가하는 동안 개발자 API에서 심층 연구 모델을 보류하고 있습니다. 회사는 '실제 세계 설득 위험'을 평가하는 방법을 더 정제하려고 노력하고 있으며, 높은 비용과 모델의 남용 가능성에 대한 우려를 언급하고 있습니다. 현재, 이 모델은 ChatGPT에서만 사용 가능합니다.
핵심 정리
- OpenAI가 AI 소문에 관련된 위험 요소를 평가하기 전까지 역설적인 연구 모델을 API에 도입하지 않을 것입니다.
- 회사는 사용자를 오도할 수 있는 '실제 세계 설득 위험'을 측정하는 방법을 개선 중입니다.
- OpenAI는 고비용과 느린 처리 속도로 대량 소문에 적합하지 않다고 밝혔습니다.
- 역설적인 연구 모델은 테스트에서는 잘 작동하지만 인간보다 뛰어나지 않으며, 단순한 작업보다 다른 모델을 설득하는 데 능숙합니다.
- 경쟁사인 Perplexity는 자체 역설적인 연구 API를 발표하며 시장 경쟁을 보여주고 있습니다.
왜 중요한가
- 인공지능이 잘못된 정보를 퍼뜨리는 데 어떤 역할을 하는지에 대한 우려가 증가하고 있습니다.
- 대만 선거 기간 동안 발생한 사건들을 통해 정치적 맥락 속에서 딥페이크 기술의 급증은 인공지능의 보다 광범위한 사회적 영향을 보여주고 있습니다.
- 인공지능 산업이 잠재적으로 해로운 능력에 대해 신중한 접근을 취함으로써 AI 윤리와 규제에 대한 계속되는 논의에 부응하고 있습니다.
오픈에이아이(OpenAI)가 깊은 연구 모델을 API에서 제외하는 결정은 인공지능의 윤리적 측면을 강조하며 특히 오보 관련 문제에 대해 중요한 인식을 보여줍니다. 이는 인공지능 기술이 공개 배포되기 전에 계속해서 평가하고 개선할 필요성을 강조합니다.