보관된 글 — US — techcrunch
OpenAI, 청소년 안전 규정 강화… 법률가들, 미성년자 위한 AI 기준 검토 중
OpenAI는 ChatGPT의 안전 가이드라인을 업데이트하여 18세 미만 사용자를 보다 잘 보호하기로 결정했습니다. 특히, 자살 의도와 관련된 비극적인 사례 이후에 청소년에 대한 AI의 영향에 대한 우려가 커지고 있는 가운데, 이러한 업데이트 모델은 부적절한 콘텐츠를 제한하고 안전을 촉진하면서도 부모의 AI 사용에 대한 참여를 촉진하고 있습니다. 이러한 조치들은 정부 당국자들이 마이너 연령자들과의 AI 상호 작용에 대한 기준을 수립하려는 노력 속에서 이루어졌습니다.
핵심 정리
- OpenAI가 안전 문제에 대한 대응으로 18세 미만 사용자를 위한 AI 행동 지침을 업데이트했습니다.
- 법안의 강화, 교육자 및 옹호자들의 증가로, 십대들과 AI 상호작용과 관련된 비극적인 사건에 대한 점검이 이뤄지고 있습니다.
- 지침은 ChatGPT가 로맨틱하거나 위험한 롤플레이를 참여하지 못하도록 금지하고, 사용자들에게 자율 대신 안전을 권장합니다.
- 42명의 주 법무장관이 기술 기업들에게 18세 미만자와의 상호작용을 위한 보호장치를 도입할 것을 촉구했습니다.
- OpenAI의 새로운 시스템은 미성년자를 식별하고 엄격한 지침을 적용하기 위한 연령 예측 모델을 포함하고 있습니다.
- 새로운 지침에도 불구하고, AI의 실제 시행과 준수에 대한 질문들이 여전히 남아 있습니다.
- 조쉬 할리 상원의원을 포함한 정책 결정자들은 미성년자와 AI 챗봇의 상호작용을 전면 제한하기 위한 입법을 고려하고 있습니다.
왜 중요한가
- 과거에는 많은 기술 회사들이 미성년자 보호에 부족한 대응을 받고 그들의 미성년자와의 상호작용 정책이 비난받았습니다.
- 현재 AI 규제의 트렌드는 투명성과 안전 조치를 더 강조하며, 특히 취약 계층과 관련이 있습니다.
- 캘리포니아의 SB 243은 자주하는 입법적 조치에서 디지털 환경에서 미성년자의 안전을 보장하기 위한 노력을 반영하며, OpenAI의 새로운 지침과 조화를 이루고 있습니다.
OpenAI가 ChatGPT를 위한 갱신된 안전 조치는 규제 감시가 증가함에 따라 선제적인 접근을 보여줍니다. 그러나 이러한 정책들의 효과는 현실 세계 상호작용에서의 준수 증거가 없는 한 의문스러울 수 있습니다.