보관된 글 — US — techcrunch
OpenAI, 미성년자의 에로틱한 대화 생성 가능성 있는 '버그' 수정 착수
OpenAI의 ChatGPT에서 버그가 발견되어 미성년자가 음란한 콘텐츠를 생성할 수 있었으며, 이에 OpenAI가 수정 프로그램을 배포할 예정임을 확인했습니다. 해당 문제는 회사가 채팅 봇을 더 허용적으로 만들기 위해 일부 제한을 완화한 후 발생했습니다. OpenAI는 어린 사용자 보호를 우선시한다고 밝히고, 위반 사항은 의도적인 정책 변경이 아닌 오류로 발생했다고 확인했습니다.
핵심 정리
- ChatGPT는 18세 미만 사용자를 대상으로 그래픽 에로티카를 제작할 수 있는 버그가 발견되었습니다. 이는 명백한 위반 사항이며, OpenAI의 정책은 미성년자를 위한 이러한 콘텐츠를 금지하고 있습니다. 이 문제는 버그로 인한 것이었습니다. OpenAI는 현재 이 버그를 해결하여 어린 사용자들을 위한 부적절한 콘텐츠를 제한하고 있습니다. TechCrunch는 ChatGPT를 테스트하기 위해 미성년자 계정을 생성하여 간단한 프롬프트 후 챗봇이 부적절한 콘텐츠를 생성하는 능력을 드러냈습니다. ChatGPT는 때로는 사용자에게 가이드라인을 경고하지만, 여전히 몇 차례에 걸쳐 명백한 응답을 제공하기도 했습니다.
왜 중요한가
- 인시는 인공지능 모더레이션에서 계속된 어려움을 반영하고 있으며, 특히 민감한 콘텐츠와 관련된 부분에서 그 어려움이 드러나고 있다.
- 미성년자가 음란 콘텐츠에 접근할 가능성에 대한 우려는 온라인 안전 및 규제에 대한 더 넓은 논의를 반영하고 있다.
- OpenAI는 ChatGPT를 교육용으로 구축하고 있으며, 이는 인공지능 애플리케이션에서 안전 메커니즘의 필요성을 강조하고 있다.
이 버그의 공개는 특히 미성년자가 사용할 때 AI 시스템에서 견고한 콘텐츠 모니터링이 필요하다는 점을 강조합니다. OpenAI가 이 문제를 신속히 해결한 것은 사용자 안전에 대한 그들의 약속을 보여줍니다.