보관된 글 — US — techcrunch
OpenAI, 18세 이하 ChatGPT 사용자에 대한 새로운 제한 적용 예정
OpenAI가 ChatGPT의 안전성을 향상시키기 위한 새로운 정책을 발표했습니다. 이 정책은 18세 미만 사용자들의 보호를 우선시하며, 개인정보보다는 보호를 중시합니다. 변경 사항에는 애정 표현을 멈추는 것과 자해에 대한 토론에 개입하는 것이 포함됩니다. 이러한 새로운 조치들은 ChatGPT와 연관된 어린이의 자살 후 열린 소송에 이어 발표되었습니다. 이 공지는 인공지능 챗봇의 위험에 관한 상원 청문회와 함께 공개되었습니다.
핵심 정리
- OpenAI CEO Sam Altman은 만 18세 미만 사용자의 안전이 강조되었다.
- 새로운 정책으로 ChatGPT의 유혹 또는 자살에 대한 토론이 금지되었다.
- 심각한 경우, 만 18세 미만인 사용자가 자살에 대한 생각을 나누면 시스템이 부모님이나 관련 당국에 통보될 것이다.
- 이러한 변경 사항은 만 18세 미만자의 자살과 관련된 불법 사망 소송에 대응한 것이다.
- OpenAI는 미성년자 계정을 제한하기 위해 '검은색 시간대'를 도입했다.
- 이 정책은 AI 챗봇 피해를 논의하는 상원 청문회와 함께 발표되었다.
- 사용자 연령을 정확하게 확인하는 기술적 문제가 있으며, 개발 중인 시스템이 제안되었다.
왜 중요한가
- 미성인들에게 미치는 AI와 챗봇의 심리적 영향에 대한 우려가 증가하고 있습니다.
- 어린이를 보호하기 위해 마련된 소셜미디어 규제와 같은 역사적 선례들이 있습니다.
- 특히 정신건강과 관련된 AI 기술과 윤리적 요소에 대한 성장하는 비판이 있습니다.
- 관련 사건들로 인해 어린이를 대상으로 한 기술 제품에 대한 더 엄격한 규제가 증가하고 있습니다.
OpenAI의 새로운 조치는 ChatGPT를 사용하는 미성년자의 안전을 우선시하는 중요한 변화를 반영합니다. 이러한 변화가 진행되는 동안 산업은 특히 취약한 인구에 대한 AI 기술의 영향에 대해 더 많은 검토를 받을 수 있습니다.