Lưu trữ — US — techcrunch
Google và Character.AI thương thảo các thỏa thuận lớn đầu tiên trong vụ kiện chatbot liên quan đến cái chết của thanh thiếu niên
Google và Character.AI đang thương lượng giải quyết với các gia đình của những thiếu niên đã tử vong hoặc tự hại sau khi tương tác với các trò trò chuyện AI. Vụ việc này đánh dấu một bước tiến quan trọng trong việc chịu trách nhiệm pháp lý đối với các công ty AI giữa những lo ngại ngày càng tăng về hại đến từ AI, gây ra sự chú ý đối với những công ty công nghệ lớn như OpenAI và Meta.
Điểm chính
- Các cuộc đàm phán đang diễn ra để giải quyết giữa Google, Character.AI và các gia đình bị ảnh hưởng.
- Các vụ việc liên quan đến các thiếu niên đã tương tác với bot trò chuyện AI và sau đó tự tử hoặc tự hại.
- Vụ án chính: Sewell Setzer III, 14 tuổi, đã có những tương tác đáng lo ngại với bot 'Daenerys Targaryen' trước cái chết của mình.
- Character.AI, thành lập vào năm 2021, đã phải đối mặt với các vụ kiện về các tương tác gây hại và đã cấm trẻ em dưới 18 tuổi sử dụng bot của mình.
- Các cuộc đàm phán xoay quanh việc bồi thường tài chính, mà không có công ty nào thừa nhận trách nhiệm.
Vì sao quan trọng
- Sự kiện này nhấn mạnh cảnh quan pháp lý mới nổi về trách nhiệm AI, vẽ ra những đối chiếu với các trường hợp bất cẩn trước đây trong công nghệ.
- Đến năm 2025, xu hướng về quy định AI và phát triển AI đạo đức có thể sẽ phát triển để đáp ứng với sự lo ngại ngày càng tăng của công chúng về tác động của AI.
- Sự quan tâm của công chúng và pháp luật đối với an toàn của AI đặt ra một thách thức lớn đối với các nhà phát triển AI, bắt buộc họ phát triển các công nghệ an toàn hơn.
Như phong cảnh pháp lý cho trí tuệ nhân tạo phát triển, các hoạt động giữa Google và Character.AI có thể tạo ra điều lệ tiêu chuẩn về trách nhiệm, thúc đẩy sự thay đổi trong cách mà các công nghệ trí tuệ nhân tạo được phát triển và quản lý để bảo vệ người sử dụng.