보관된 글 — US — techcrunch
OpenAI, '신뢰할 수 있는 연락처' 안전장치 도입, 자해 가능성에 대응
OpenAI는 '신뢰할 수 있는 연락처(Trusted Contact)' 기능을 출시했습니다. 이 기능은 ChatGPT 사용자가 대화 중 자해 의도를 표현하면 지정된 연락처에 알림을 보내는 것입니다. 이 조치는 채팅 봇과의 상호작용 후 피해를 입은 개인의 가족으로부터 소송을 받은 후 사용자 안전을 강화하기 위한 목적을 가지고 있습니다. 이 기능은 개인정보를 보호하면서도 지정된 연락처에 사용자를 확인할 것을 통지합니다.
핵심 정리
- OpenAI가 '신뢰할 수 있는 연락처(Trusted Contact)' 기능을 도입하여 자해에 대해 이야기하는 사용자의 안전을 강화했습니다.
- 사용자는 자해가 언급되면 경고를 받을 신뢰할 수 있는 세 번째 당사자(가족 또는 친구)를 지정할 수 있습니다.
- 이 기능은 해로운 사건을 자동화 및 인간 감독으로 검토하는 OpenAI의 기존 안전 절차와 함께 작동합니다.
- 위급한 상황에서는 신뢰할 수 있는 연락처로 간단한 경고가 전송되어 대화 세부 내용을 공개하지 않고 대화를 이끌도록 격려합니다.
- 이 이니셔티브는 지난 9월에 소개된 청소년 계정을 모니터링하는 부모를 위한 이전 안전 조치에 이어 이루어졌습니다.
왜 중요한가
- OpenAI가 심리 건강에 미치는 영향에 대한 증가하는 검토와 소송에 대응하여 이 기능을 도입했습니다.
- 인공지능 기반 플랫폼에서 심리 건강에 대한 논의와 개입 도구는 매우 중요합니다. 특히 현대 사회에서 자해에 관한 대화가 증가할 때에는요.
- OpenAI의 노력은 2025년까지 사용자의 복지를 우선시하는 윤리적 인공지능 시스템을 만드는 IT 산업의 전반적인 추세와 일치합니다.
'신뢰할 수 있는 연락처' 기능은 OpenAI가 인공 지능 상호작용과 관련된 정신 건강 문제에 대해 노력하고 있음을 보여주며, 책임 있는 인공 지능 개발과 사용자 안전을 위한 선제적 조치의 필요성을 강조합니다.