Lưu trữ — US — techcrunch
ChatGPT sẽ dự đoán độ tuổi của người dùng để bảo vệ trẻ em.
OpenAI đã ra mắt tính năng 'dự đoán tuổi' cho ChatGPT nhằm xác định người dưới tuổi và áp dụng các hạn chế nội dung. Hành động này đến sau những lo ngại về ảnh hưởng tiêu cực của ứng dụng đối với tuổi trẻ, bao gồm liên kết với các vụ tự tử của thiếu niên, và mục tiêu là nâng cao các biện pháp bảo vệ hiện có bằng cách đánh giá hành vi người dùng và tín hiệu tài khoản.
Điểm chính
- OpenAI giới thiệu tính năng 'dự đoán tuổi' để cải thiện an toàn cho người dùng trẻ tuổi.
- Tính năng này xác định người dưới tuổi và áp dụng giới hạn về nội dung trên các chủ đề nhạy cảm.
- Sáng kiến này là một phản ứng trước những chỉ trích về tác động của ChatGPT đối với trẻ em, bao gồm cả các vụ tự tử liên quan đến chatbot.
- Các bộ lọc nội dung hiện có đã hạn chế thảo luận về tình dục và bạo lực đối với người dùng dưới 18 tuổi.
- Cơ chế dự đoán tuổi sử dụng tín hiệu hành vi như tuổi được nêu rõ của người dùng, tuổi tài khoản và mẫu hoạt động để xác định tuổi.
- Người dùng bị xác định sai tuổi có thể xác minh tuổi của mình thông qua quy trình gửi ảnh tự chụp.
Vì sao quan trọng
- Việc ra mắt tính năng này phù hợp với xu hướng chung vào năm 2025 nhằm nâng cao an toàn AI và giảm thiểu các rủi ro liên quan đến tương tác AI, đặc biệt là đối với các nhóm dễ tổn thương.
- Các cuộc thảo luận liên quan đến vai trò của AI trong sức khỏe tinh thần và an toàn cho trẻ em nhấn mạnh tính cấp bách của việc triển khai AI một cách có trách nhiệm.
- Các sự cố trước đây liên quan đến ChatGPT và nội dung không phù hợp đã làm nổi bật nhu cầu cần có các biện pháp kiểm soát nghiêm ngặt trong các hệ thống AI tương tác với trẻ em.
Sự ra mắt của tính năng dự đoán độ tuổi bởi OpenAI đại diện cho một bước quan trọng hướng tới bảo vệ người dùng trẻ trên các nền tảng AI, giải quyết những chỉ trích trước đây, và thúc đẩy việc sử dụng AI một cách có trách nhiệm giữa những lo ngại ngày càng tăng về ảnh hưởng của nó đối với sức khỏe tâm thần.