보관된 글 — US — techcrunch
OpenAI, GPT-5에 민감한 대화 라우팅 및 부모 통제 기능 도입
OpenAI는 민감한 대화를 GPT-5로 보내고 한 달 내에 부모 관리 기능을 도입하여 안전을 향상할 계획이다. 이번 계획은 ChatGPT가 사용자의 정신적 고통에 적절히 대응하지 못한 비극적인 사건을 반성한 결과다. OpenAI는 더 나은 대답을 제공하고 청소년의 AI와의 상호작용을 모니터링하는 데 부모들을 참여시키고자 한다.
핵심 정리
- OpenAI의 계획에는 GPT-5로 민감한 토론을 보내는 것이 포함되어 있습니다. GPT-5는 보다 심층적인 추론을 위해 설계되었습니다.
- 이 결정은 ChatGPT의 최근 안전 실패에서 비롯되었으며, 이는 Adam Raine의 자살과 Stein-Erik Soelberg의 자살 사건 등과 관련이 있습니다.
- 새로운 부모용 제어 기능을 통해 부모는 자녀의 ChatGPT 사용을 모니터링하고 제한할 수 있으며, 연령에 맞는 상호작용을 위한 기능이 제공될 것입니다.
- 알림을 통해 부모에게 자녀의 대화에서 고통이 감지될 때 알림이 전달될 것입니다.
- 이 계획은 OpenAI의 120일 개선 계획의 일환으로, 정신 건강 전문가들과 가이드라인을 협력할 예정입니다.
왜 중요한가
- 정신 건강 대화에 AI를 통합함으로써 인식을 높이고 윤리적 책임을 다루며, 현재 사회 복지에 대한 AI 역할에 대한 논의와 함께 나란히 따라오고 있습니다.
- 역사적으로, AI에 대한 우려는 오보에 초점을 맞추었지만, 현재는 정신 건강과 사용자 안전에 관심이 옮겨가고 있습니다.
- 2025년까지 동향에서는 사용자 심리와 감정 안전을 우선시 하는 AI 시스템에 대한 수요가 증가할 것으로 예상됩니다.
오픈AI의 개선 사항은 고급 AI 능력과 현모양처기능을 통해 사용자 안전 및 정신 건강 지원을 개선하려는 것으로, 정신 건강에 대한 우려가 커지는 가운데 AI 적용의 중요한 발전을 반영하고 있습니다.