OpenAI, AI 기반 아동 성착취 대응을 위한 아동 안전 청사진 발표

핵심 정리

• 1

  1. OpenAI의 아동 안전 청사진은 NCMEC와 법무장관 연합과 함께 개발되었으며, 노스캐롤라이나와 유타 법무장관의 의견이 반영되었습니다.

• 2

  2. Internet Watch Foundation은 2025년 상반기에 AI로 생성된 아동 성적 학대 콘텐츠가 8,000건 이상 보고되었으며, 이는 전년 대비 14% 증가한 수치라고 밝혔습니다.

• 3

  3. 이 청사진은 AI로 생성된 학대 자료를 포함하도록 법률 업데이트, 법 집행 기관 신고 개선, AI 시스템에 예방적 안전장치 구축이라는 세 가지 영역에 중점을 둡니다.

• 4

  4. 이 이니셔티브는 11월에 OpenAI가 GPT-4o를 조기 출시했다고 주장하며, 4명의 개인의 자살에 기여했다는 소송이 제기된 가운데 나왔습니다.

• 5

  5. 범죄자들은 AI 도구를 사용하여 금전적 성착취를 위한 아동의 가짜 노출 이미지를 생성하고 설득력 있는 그루밍 메시지를 만들고 있습니다.

• 6

  6. OpenAI는 최근 인도의 청소년을 위한 별도의 안전 청사진을 발표하여 전 세계적으로 아동 안전 노력을 확대하고 있습니다.