OpenAI, '신뢰할 수 있는 연락처' 안전장치 도입, 자해 가능성에 대응

핵심 정리

• 1

  OpenAI가 '신뢰할 수 있는 연락처(Trusted Contact)' 기능을 도입하여 자해에 대해 이야기하는 사용자의 안전을 강화했습니다.

• 2

  사용자는 자해가 언급되면 경고를 받을 신뢰할 수 있는 세 번째 당사자(가족 또는 친구)를 지정할 수 있습니다.

• 3

  이 기능은 해로운 사건을 자동화 및 인간 감독으로 검토하는 OpenAI의 기존 안전 절차와 함께 작동합니다.

• 4

  위급한 상황에서는 신뢰할 수 있는 연락처로 간단한 경고가 전송되어 대화 세부 내용을 공개하지 않고 대화를 이끌도록 격려합니다.

• 5

  이 이니셔티브는 지난 9월에 소개된 청소년 계정을 모니터링하는 부모를 위한 이전 안전 조치에 이어 이루어졌습니다.