Lưu trữ — US — techcrunch
California trở thành tiểu bang đầu tiên quy định về chatbot AI đồng hành.
California đã ban hành Đạo luật SB 243, trở thành tiểu bang đầu tiên điều chỉnh các trợ lý ảo thông minh (AI) trong ứng dụng tro chuyện, yêu cầu các nhà điều hành triển khai các biện pháp an toàn để bảo vệ trẻ em và người dùng yếu thế. Luật này, được thúc đẩy bởi những sự cố bi thảm liên quan đến tương tác với trợ lý ảo, yêu cầu kiểm tra tuổi, cảnh báo nguy hiểm và giao thức ngăn ngừa tự tổn thương. Có hiệu lực từ ngày 1 tháng 1 năm 2026, nó sẽ đưa các công ty phải chịu trách nhiệm về việc tuân thủ và an toàn.
Điểm chính
- Thống đốc California Gavin Newsom đã ký kịch bản luật SB 243, quy định về các chatbot AI.
- Luật này nhằm bảo vệ trẻ em và người dùng dễ tổn thương khỏi các nguy hiểm liên quan đến chatbot AI.
- Được kích động bởi cái chết của một thiếu niên sau khi tương tác với AI, dự luật đã thu hút sự chú ý.
- Các công ty phải triển khai xác minh tuổi tác và bao gồm tính năng địa chỉ vấn đề tự tổn thương.
- Luật này sẽ có hiệu lực vào ngày 1 tháng 1 năm 2026, với các hình phạt tài chính đối với việc vi phạm.
- Gần đây, các luật tương tự đã được thông qua tại California, nhằm mục tiêu về sự minh bạch trong việc sử dụng AI.
Vì sao quan trọng
- Phản ánh những lo ngại ngày càng tăng về tác động của trí tuệ nhân tạo đối với sức khỏe tâm thần, trong bối cảnh các cuộc thảo luận ngày càng nhiều về đạo đức trong trí tuệ nhân tạo.
- Lặp lại những nỗ lực quy định trước đó tại các bang như Illinois và Utah chống lại các trò trò chuyện trí tuệ nhân tạo giả vờ là nhà cung cấp dịch vụ chăm sóc sức khỏe tâm thần.
- Minh họa một xu hướng đến việc tăng cường quy định đối với các ngành công nghệ sau những vụ việc gây hại liên quan đến công nghệ và trẻ em.
Đạo luật SB 243 đại diện cho một bước quan trọng trong việc quy định công nghệ AI, nhằm bảo vệ người dùng yếu thế khi xã hội ngày càng nhận ra nguy cơ tiềm ẩn của công nghệ không được quy định. Với California dẫn đầu trong chính sách AI, điều này đặt ra một tiền lệ có thể ảnh hưởng đến pháp luật quốc gia.