Lưu trữ — US — techcrunch
OpenAI áp dụng hạn chế mới cho người dùng ChatGPT dưới 18 tuổi
OpenAI đã công bố chính sách mới cho ChatGPT nhằm nâng cao sự an toàn cho người dùng dưới 18 tuổi, ưu tiên bảo vệ hơn là quyền riêng tư. Các thay đổi bao gồm ngừng trao đổi tán tỉnh và can thiệp vào các cuộc thảo luận về tự tử. Các biện pháp mới này đến sau một vụ kiện từ phụ huynh một người trẻ em khiến đứa trẻ tự tử liên quan đến ChatGPT. Thông báo này trùng với một phiên điều trần của Thượng viện về các rủi ro của trí tuệ nhân tạo chatbot.
Điểm chính
- CEO của OpenAI, Sam Altman, nhấn mạnh về sự cần thiết của an toàn cho người dùng dưới 18 tuổi.
- Chính sách mới hạn chế ChatGPT tham gia vào việc tán tỉnh hoặc thảo luận về tự sát.
- Trong những trường hợp nghiêm trọng, nếu một người dưới 18 tuổi thảo luận về suy nghĩ tự sát, hệ thống sẽ thông báo cho phụ huynh hoặc cơ quan chức năng.
- Những thay đổi này đáp ứng một vụ kiện mất mát do tự sát của một người dưới tuổi.
- OpenAI giới thiệu 'blackout hours' để hạn chế việc sử dụng tài khoản người dùng chưa đủ tuổi.
- Các chính sách đã được thông báo cùng với cuộc điều trần tại Thượng viện nói về các hại từ AI chatbot.
- Thách thức kỹ thuật tồn tại trong việc xác minh chính xác độ tuổi của người dùng, với một hệ thống đề xuất đang được phát triển.
Vì sao quan trọng
- Nâng cao lo ngại về tác động tâm lý của trí tuệ nhân tạo và chatbot đối với trẻ em.
- Các tiền lệ lịch sử như luật pháp về mạng xã hội nhằm bảo vệ trẻ em.
- Sự kiểm tra tăng cường về công nghệ trí tuệ nhân tạo và tác động đạo đức, đặc biệt là về sức khỏe tinh thần.
- Các sự việc liên quan khiến cho việc quy định nghiêm ngặt hơn đối với các sản phẩm công nghệ dành cho đối tượng khán giả trẻ.
Các biện pháp mới của OpenAI phản ánh một bước chuyển đổi đáng kể hướng tới ưu tiên an toàn cho trẻ em sử dụng ChatGPT. Khi những thay đổi này diễn ra, ngành công nghiệp có thể phải đối mặt với việc quan sát nghiêm ngặt về những hậu quả của công nghệ AI, đặc biệt đối với nhóm dân số dễ bị tổn thương.