보관된 글 — US — techcrunch
OpenAI, ChatGPT에 안전 경로 시스템 및 부모 관리 기능 도입
OpenAI가 ChatGPT의 과거 유해 상호작용 사건에 대응하여 새로운 안전 라우팅 시스템과 가정용 컨트롤을 출시했습니다. 새로운 기능은 민감한 대화를 감지하고 안전한 모델인 GPT-5로 전환하는 것을 목표로 하며, 가정용 컨트롤은 청소년 사용자의 경험을 사용자 정의할 수 있도록 합니다. 구현 및 효과에 대한 반응은 갈림니다.
핵심 정리
- OpenAI가 챗 GPT에서 민감한 대화에 대한 응담을 향상시키기 위해 안전 라우팅 시스템을 시험 중에 있다.
- 부모용 컨트롤러의 도입은 챗 GPT 상호작용과 관련된 부당 사망 소송 이후에 이루어졌다.
- GPT-5는 '안전 완성'이라는 기능으로 설계되어 이전 모델보다 민감한 주제를 처리한다.
- 사용자들의 반응은 엇갈리며, 일부는 안전 기능을 감사히 받지만, 다른 사람들은 아이처럼 대우받아 서비스 품질이 떨어진다고 느낀다.
- 부모용 컨트롤러를 통해 부모는 조용한 시간과 콘텐츠 보호 등의 선택지를 통해 자녀의 AI 경험을 관리할 수 있다.
- OpenAI는 십대 상호작용에서 자해의 징후가 감지되면 신속하게 조치하려고 하지만, 모든 경고가 정확하지는 않을 것이라고 인정하고 있다.
왜 중요한가
- 2025년 현재, AI 윤리와 책임에 대한 논의가 계속되고 있으며, AI로 인한 피해 사례 이후에 특히 강조되고 있습니다.
- AI 안전 및 조절 도구에 대한 관심이 증가하고 있으며, 이에 따라 기술 기업들도 플랫폼을 개선하는 추세를 보이고 있습니다.
- 부모용 제어 기능은 디지털 공간에서 아이들의 안전에 대한 우려 증가에 대한 대응책으로 여겨질 수 있으며, 이는 기술 분야 전반에서의 규제 노력과 함께 이루어지고 있습니다.
OpenAI의 새로운 안전 경로 및 부모 감시 기능은 사용자 안전을 향상시키고 상호작용을 신중하게 관리하려는 목표를 가지고 있습니다. 하지만, 이러한 기능은 혁신과 책임있는 AI 사용 사이의 복잡성을 반영하며 계속된 검토 속에서 균형을 유지하는 것이 중요함을 보여줍니다.