보관된 글 — US — techcrunch
캘리포니아, AI 동반자 챗봇 규제 첫 번째 주로 나서
캘리포니아 주는 SB 243를 통과시켰습니다. 이는 AI 동반자 챗봇을 규제하는 국내 최초의 법률로, 운영자들은 어린이와 취약한 사용자를 보호하기 위한 안전 조치를 시행해야 합니다. 이 법은 챗봇 상호작용과 관련된 비극적 사건에 영감을 받아 만들어졌으며, 연령 확인, 위험 경고 및 자해 방지 프로토콜을 의무화합니다. 2026년 1월 1일부터 시행되며, 회사들은 규정 및 안전 조치 준수에 대해 책임을 져야 합니다.
핵심 정리
- 캘리포니아 주지사 가빈 뉴섬은 인공 지능 챗봇을 규제하는 SB 243을 서명했습니다.
- 이 법은 어린이와 취약한 이용자를 AI 챗봇과 관련된 위험으로부터 보호하기 위해 존재합니다.
- AI와 상호작용 후 청소년 자살 사례에서 법안이 진행됐습니다.
- 기업들은 연령 확인 및 자해에 대응하는 기능을 도입해야 합니다.
- 법은 2026년 1월 1일부터 시행되며, 미준수에 대한 금전적 처벌이 있을 것입니다.
- 최근 캘리포니아에서는 AI 사용의 투명성을 위해 유사한 법률이 통과됐습니다.
왜 중요한가
- AI의 정신 건강에 미치는 영향에 대한 우려가 증가하고 있음을 반영하며, AI 윤리에 대한 논의가 증가하고 있다.
- 일리노이 및 유타 주에서 정신 건강 의료 공급자로 위장한 AI 챗봇에 반대하는 조기 규제 노력을 반복하고 있다.
- 기술과 미성년자 사이의 유해 사례를 경험한 후 기술 산업에 대한 규제 강화 트렌드를 보여주고 있다.
SB 243는 인공지능 기술을 규제하는 중요한 단계로, 사회가 규제되지 않은 기술의 잠재적 위험을 점차 인식함에 따라 취해진 조처이다. 캘리포니아 주가 인공지능 정책 분야를 선도하며, 국가적 입법에 영향을 줄 전례를 만들었다.