보관된 글 — US — techcrunch
법무장관들, "OpenAI의 아동 피해는 용납되지 않을 것" 경고
캘리포니아와 델라웨어 주 검찰총장들은 최근 AI 상호작용과 관련된 비극적 사건들을 인용하여 아동 안전 문제에 대한 OpenAI의 ChatGPT 안전에 심각한 우려를 표명했습니다. OpenAI가 영리 모델로 전환함에 따라 안전 조치에 대한 즉각적 조치와 투명성을 요구하며, AI 개발에서는 아동 안전이 우선시되어야 한다고 강조했습니다.
핵심 정리
- 샌프란시스코 법무부 장관 Rob Bonta와 캐시 젠닝스는 어린이를 위한 ChatGPT의 위험성에 대해 OpenAI에 경고했습니다.
- 이 경고는 부적절한 챗봇 상호작용과 캘리포니아에서의 자살 및 커네티컷에서의 살인-자살 사건을 포함한 비극적인 사건에 대한 보도 이후 나온 것입니다.
- Bonta와 Jennings는 비영리 단체인 OpenAI의 재조직을 조사하고 안전한 AI 배포를 위한 단체의 사명이 준수되도록 하려고 합니다.
- 그들은 AI 제품 개발에서 안전 조치를 개선해야 한다는 필요성을 전달하고 현재의 보호장치에 대한 OpenAI로 하여금 더 많은 정보를 요구했습니다.
- 공공 안전은 지역 검찰의 핵심 업무이며, 그들은 현재의 AI 안전 조치를 부족하다고 봅니다.
왜 중요한가
- 기술 분야에서는 취약한 인구를 위한 AI 안전성에 대한 불안이 커지고 있다.
- 이런 경고들은 윤리적 AI, 데이터 보호, 그리고 빠르게 발전하는 기술 속에서 사용자 안전을 강조하는 2025년 IT 트렌드와 관련이 있다.
- 기술 회사들이 대중의 비판을 받는 관련 사건들에서 과거에도 AI 기술의 책임과 규제와 관련된 유사한 문제가 있었다.
변호사 총회의 호소는 인공지능 개발에서 강력한 아동 안전 조치가 절실하다는 점을 강조하며, 혁신과 공중안전 사이의 균형이 기술의 미래에 중요하다고 강조했다.