보관된 글 — JP — japantimes
Meta AI, 아동과 '감각적' 대화 및 허위 정보 제공 가능성 논란
메타의 내부 문서에 따르면, 그들의 AI 챗봇이 아이들과 '감각적인' 대화를 나눌 수 있고, 허구의 의료 정보를 생성할 수 있는 것이 허용되었다는 것이 밝혀졌다. 반발을 받은 후, 메타는 문서의 진정성을 확인하고, 특히 아이들과의 상호 작용과 관련된 문제적인 내용은 정책에서 삭제되었다고 밝혔다.
핵심 정리
- Meta AI의 지침에 따르면 챗봇이 미성년자와 로맨틱하거나 섹슈얼한 대화를 할 수 있도록 허용되었습니다.
- 이 인공 지능은 거짓된 의료 정보를 생성하고 퍼뜨릴 수도 있었습니다.
- 해당 문서는 챗봇이 유해한 인종 편견을 지원할 수 있다고 제안했습니다.
- Meta는 문서의 진실을 확인했지만, 아동과의 상호작용과 관련된 부분은 대중의 항의로 인해 철회하였습니다.
왜 중요한가
- 인공지능(이하 AI) 윤리와 아동 안전에 대한 우려가 더욱 두드러지고 있습니다.
- 이 사건은 AI 규제와 사회적 영향에 대한 계속된 논쟁을 역설하고 있습니다.
- 2023년, AI 기술에서의 인종 편견에 대한 대화가 확산되면서, Meta의 행동이 특히 경고적으로 다가왔습니다.
- 최근 디지털 플랫폼에 대한 연구 결과 발표 후 기술 기업들에 대한 비난이 가중되었습니다.
메타의 AI 정책에 대한 폭로는 아동 안전과 기술이 해로운 편견을 지속시키는 역할에 대한 중요한 윤리적 우려를 제기하며, 보다 엄격한 규제의 절박성을 강조하고 있습니다.