핵심 정리
- 1
메타는 청소년이 자해나 자살에 대해 AI 챗봇과 대화할 때 부모에게 새로운 경보 시스템을 발표했습니다.
- 2
이러한 경보는 기술 기업들이 위기 상황에 있는 사용자에 대한 책임에 대해 점점 더 신중하게 살펴지고 있는 상황에서 나온 것입니다.
- 3
AI가 식별한 대화는 거짓 경보를 방지하기 위해 수동으로 검토되며, 부모에게 경보를 주는 것에 대해 신중성을 우선시합니다.
- 4
이 기능은 현재 미국, 영국, 호주 및 캐나다 사용자를 대상으로 운영되며, 연말까지의 글로벌 확산이 계획되어 있습니다.
- 5
메타의 업데이트에는 Instagram에서 자해 관련 반복 검색에 대한 기존 경보 및 확대된 부모용 제어 설정도 포함되어 있습니다.
관련 태그
IT 업계에서 사용자 안전과 AI의 윤리적 측면에 초점을 맞춘 트렌드가 점점 더 강조되고 있다.다른 기술 기업들의 유사한 조치들은 AI 설계 및 운용에서 정신건강 고려의 중요성을 강조하고 있다.이번 업데이트는 기술 기업들에 대한 규제 감독이 점점 더 강조되면서 책임있는 AI 관행을 확립하도록 하는 추세와 일치한다.
