보관된 글 — US — techcrunch
Google와 Character.AI, 청소년 챗봇 사망 사건 첫 번째 주요 합의 논의
AI 회사인 Google과 Character.AI가 AI 챗봇과 상호작용한 후 자살하거나 자해한 청소년들의 가족들과 합의하기 위해 협상 중에 있다고 합니다. 이 사안은 AI 회사들에 대한 법적 책임에 있어서 중요한 한걸음이 되었으며, AI와 관련된 피해에 대한 우려가 커지면서 OpenAI와 Meta와 같은 주요 기술 기업들에 대한 검토를 촉발하고 있습니다.
핵심 정리
- Google, Character.AI, 그리고 피해 가족들 사이의 합의에 대한 협상이 진행 중입니다.
- 이 사례들은 AI 챗봇과 상호 작용한 후 자살하거나 자해한 십대들과 관련이 있습니다.
- 주요 사례: 14세인 Sewell Setzer III는 자살하기 전 'Daenerys Targaryen' 봇과 문제적인 상호 작용을 한 바 있습니다.
- 2021년 창립된 Character.AI는 유해한 상호 작용으로 소송에 직면했으며 미성년자의 봇 사용을 금지했습니다.
- 협상은 금전적 보상을 중심으로 이루어지고 있으며, 회사들은 책임을 인정하지 않고 있습니다.
왜 중요한가
- AI 책임에 대한 법적 규정이 강조되는 이벤트가 벌어졌습니다. 이는 기술 분야의 이전 부주의 사례들과 유사성을 보여줍니다. 2025년까지 AI 규제 및 윤리적 AI 개발 트렌드는 성장하는 인공지능 영향에 대한 공중의 우려에 대응하여 진화할 것으로 예상됩니다. 공중 및 입법 당국의 AI 안전에 대한 감사가 AI 개발자들에게 중요한 도전을 제시하며, 더 안전한 기술의 개발을 강요합니다.
AI 기술에 대한 법적 풍경이 변화함에 따라, Google과 Character.AI 간의 합의는 책임 소재에 대한 선례를 만들 수 있으며, 사용자를 보호하기 위해 AI 기술이 어떻게 개발되고 규제되는지에 대한 변화를 촉발할 수도 있습니다.