Lưu trữ — US — techcrunch
OpenAI áp dụng quy tắc an toàn mới cho thanh thiếu niên trên ChatGPT khi các nhà lập pháp xem xét tiêu chuẩn AI cho người vị thành niên.
OpenAI đã cập nhật hướng dẫn an toàn của mình cho ChatGPT để bảo vệ người dùng dưới 18 tuổi tốt hơn đồng thời lo lắng về tác động của trí tuệ nhân tạo đối với tuổi teen, đặc biệt sau các sự kiện bi kịch liên quan đến ý định tự tử. Mô hình cập nhật hạn chế nội dung không thích hợp và thúc đẩy an toàn cũng như khuyến khích sự tham gia của phụ huynh trong việc sử dụng trí tuệ nhân tạo. Những bước đi này đến trong bối cảnh sự chú ý của các cơ quan quy định khi các nhà lập pháp cố gắng thiết lập các tiêu chuẩn cho tương tác trí tuệ nhân tạo với người dưới 18 tuổi.
Điểm chính
- OpenAI đã cập nhật hướng dẫn về hành vi của trí tuệ nhân tạo (AI) dành cho người dưới 18 tuổi để đáp ứng các mối lo an toàn.
- Sự chú ý ngày càng tăng từ pháp luật, giáo viên và các nhà hoạt động đã được kích thích bởi các vụ việc bi thảm liên quan đến thanh thiếu niên và tương tác với AI.
- Các hướng dẫn cấm ChatGPT tham gia vào các trò chơi vai lãng mạn hoặc nguy hiểm, và khuyên người dùng về an toàn hơn là tự chủ.
- 42 thẩm phán tổng quốc gia đã yêu cầu các công ty công nghệ triển khai biện pháp bảo vệ cho trẻ em khi tương tác với AI.
- Các hệ thống mới của OpenAI bao gồm một mô hình dự đoán tuổi để xác định người dưới tuổi và áp dụng hướng dẫn nghiêm ngặt tương ứng.
- Mặc dù có hướng dẫn mới, câu hỏi vẫn tồn tại về việc thực thi và tuân thủ thực tế từ phía AI.
- Các nhà hoạch định chính sách, bao gồm cả Thượng nghị sĩ Josh Hawley, đề xuất việc ban hành luật để hạn chế việc trẻ em tương tác với các chatbot AI.
Vì sao quan trọng
- Trong quá khứ, nhiều công ty công nghệ đã gặp phải sự phản ứng gay gắt vì thiếu các biện pháp bảo vệ trẻ em và đã bị kiểm tra chính sách tương tác của họ với người dưới tuổi vị thành niên.
- Các xu hướng hiện đại trong việc quản lý AI liên quan đến việc yêu cầu sự minh bạch và các biện pháp an toàn, đặc biệt với các nhóm dân số dễ bị tổn thương.
- Đạo luật California SB 243 phản ánh những động thái pháp lý ngày càng tăng để đảm bảo an toàn cho người dưới tuổi trong môi trường kỹ thuật số, điều này phù hợp với hướng dẫn mới của OpenAI.
Các biện pháp an toàn cập nhật của OpenAI cho ChatGPT phản ánh một cách tiếp cận chủ động giữa sự chú ý tăng cường từ pháp luật. Tuy nhiên, hiệu quả của các chính sách này vẫn còn điều hỏi mà không có bằng chứng cụ thể về việc tuân thủ trong các tương tác thực tế.