アーカイブ — US — techcrunch
GoogleとCharacter.AI、ティーンサポートチャットボットの死亡事件で初の大規模和解を交渉中
GoogleとCharacter.AIは、AIチャットボットとのやり取りの後に自殺したり自分を傷つけたりしたティーンエイジャーの家族と和解交渉をしています。この件は、AI企業に対する法的責任の重要な一歩となっており、AI関連の害に対する懸念が高まっている中で、OpenAIやMetaなどの主要テック企業に対する検証を促しています。
要点
- Google、Character.AI、および被害を受けた家族との和解交渉が継続中です。
- これらのケースには、AIチャットボットと関わり、その後自殺や自傷行為を行った十代の若者が関与しています。
- 主要なケース: 14歳のSewell Setzer IIIは、自殺する前に「Daenerys Targaryen」ボットと問題のあるやり取りをしていました。
- 2021年に設立されたCharacter.AIは、有害なやり取りによる訴訟に直面し、未成年者のボット利用を禁止しています。
- 交渉は、金銭的補償をめぐり行われており、企業は一切の責任を認めていません。
なぜ重要か
- AIの責任に関する法的な景勢が進展しており、これまでのテクノロジーにおける過失事件との類似性が指摘されています。
- 2025年までに、AI規制や倫理的なAI開発のトレンドは、AIの影響に対する一般市民の懸念の増加に応じて発展する可能性があります。
- 公衆や立法機関によるAI安全性への厳格な監査は、AI開発者にとって重要な課題となっており、より安全なテクノロジーの開発が求められています。
AI技術の法的環境が発展する中、GoogleとCharacter.AI間の和解が前例を作り、責任を問うための基準を示すことで、AI技術が開発され、規制される方法に変化をもたらす可能性があります。