OpenAI의 새로운 추론 기술, AI 안전 전문가들 경 alarm

핵심 정리

• 1

  Astra 모델은 추론 능력을 향상시키기 위해 '반복적 심도' (불명확한 반복)을 사용합니다.

• 2

  이 기술은 모델의 추론 프로세스를 복잡하게 만들어 AI 안전 전문가들 사이에서 경고를 일으킵니다.

• 3

  버크 슐레리스와 지 모쇼비츠는 모델 투명성의 감소와 안전 기준 하향의 위험에 대해 중대한 우려를 표명했습니다.

• 4

  일반적인 추론 모델은 감시를 위한 사고의 과정을 제공하지만, 불명확한 반복은 이를 가려버릴 수 있습니다.

• 5

  OpenAI는 이 새로운 기술을 사용하더라도 강력한 모니터링 시스템을 도입할 계획입니다.