보관된 글 — US — techcrunch
Meta, 10대 사용자와의 부적절한 대화를 피하기 위해 챗봇 규정 업데이트
Meta는 이전에 자해나 로맨스와 같은 민감한 주제에 대한 토론을 허용했던 기존 지침에 대한 비판을 받은 후, AI 챗봇 정책을 업데이트하고 청소년 사용자를 불쾌한 콘텐츠로부터 보호하기로 결정했습니다. 임시 변경 사항은 청소년들의 일부 챗봇 접근을 제한하고 안전을 강조하며, 향후 보다 포괄적인 업데이트 계획이 있습니다.
핵심 정리
- 메타가 조사 결과를 토대로 AI 챗봇 훈련을 개선하여 청소년의 안전을 강화하고 있습니다.
- 챗봇은 더 이상 자해, 자살, 식사 장애와 같은 민감한 주제에 대해 청소년과 대화하지 않을 것입니다.
- 메타는 이전에 챗봇이 미성년자와 부적절한 주제에 대해 토론한 것에 대해 오류를 인정하고 있습니다.
- 청소년이 접근할 수 있는 AI 캐릭터의 종류에 새로운 제한이 도입되어 교육 콘텐츠에 노출을 제한할 것입니다.
- 조시 호웰리 상원의원이 부정적인 홍보 후 메타의 AI 정책을 조사를 개시했습니다.
- 44개 주 변호사들의 연맹이 아동의 정서적 안녕에 미치는 위험에 대한 분노를 표현하였습니다.
왜 중요한가
- 소셜미디어 회사들과 그들의 어린이 안전에 대한 책임에 대한 점점 커지는 비판 속에서 변경 사항이 발표되었습니다.
- 온라인 플랫폼이 어린이들의 정신적 건강에 미치는 영향에 대한 역사적 우려로 인해 입법적 조치가 취해졌습니다.
- Disrupt 2025는 기술 산업에서 AI의 윤리적 함의 및 사회에서의 역할에 대한 지속적인 논의를 반영하고 있습니다.
메타는 채팅 봇 정책 변화를 즉각적으로 시행함으로써, 미성년자를 위한 안전한 디지털 환경에 대한 수요가 증가함을 강조했습니다. 이는 더 큰 사회적 우려와 기술 산업에서의 잠재적 규제 조치를 반영하고 있습니다.