보관된 글 — US — techcrunch
OpenAI, "고위험" AI 출시 시 안전장치 조정 가능성 언급
오픈AI는 '고위험' AI를 충분한 안전장치 없이 출시할 경우 경쟁사로 인해 안전 요구사항을 조정할 수 있는 대비 프레임워크를 개정하고 있습니다. 이는 AI 개발을 가속화하기 위한 경쟁 압력을 반영한 결정입니다. 출시 속도를 높이기 위해 기준을 낮춘다는 비판에도 불구하고, 오픈AI는 어떠한 조정도 안전을 우선시하며, 보다 자동화된 평가를 사용하면서도 인간의 감독을 계속 요구할 것이라고 주장하고 있습니다.
핵심 정리
- OpenAI가 AI 안전을 강화하기 위해 대비 프레임워크를 업데이트했습니다.
- 다른 업체들이 적절한 보호 조치 없이 고위험 AI 시스템을 출시할 경우 OpenAI는 안전 장치를 낮출 수 있지만 전반적인 위험이 증가하지는 않도록 합니다.
- 자동화된 평가는 개발 속도를 높일 수 있지만 시험 일정이 단축되는 문제와 안전에 대한 타협에 대한 우려가 제기되고 있습니다.
- 최근 주장에 따르면 OpenAI가 견고한 인간 중심 테스트에서 벗어나고 있다는 것으로, 전 직원들과 규제기관들로부터 비판을 일으키고 있습니다.
- 새로운 프레임워크는 '높은'과 '중요한' 능력 모델을 구분하며, 각각 맞춤형 안전장치가 있습니다.
왜 중요한가
- OpenAI의 안전 정책 변경은 기술 산업에서 볼 수 있는 인공지능 신속 배치의 폭넓은 경향과 부합하며, 규제 감독에 대한 우려를 증폭시킨다.
- 과거 몇 년간 기술 기업들은 안전보다 속도를 우선시한 점에 대한 반발을 경험해왔으며, 더 엄격한 규정 요구가 제기되었다.
- 자동 평가의 증가하는 사용은 기술 개발 전략의 변화를 반영하며, 2025년의 인공지능 배치에서 효율성과 확장성에 초점을 맞춘다.
OpenAI의 프레임워크 조정은 빠른 AI 개발과 중요한 안전 조치 사이의 긴장을 강조합니다. 산업 압력이 증가함에 따라 기업들이 혁신과 책임 사이의 균형을 유지하는 것이 심각한 위험을 방지하는 데 중요합니다.