EXPLORINEER
vi

Lưu trữ — US — techcrunch

ChatGPT for Teens hỗ trợ thanh thiếu niên giao tiếp, ngay cả trong khủng hoảng sức khỏe tâm lý

Common Sense Media đánh giá ChatGPT for Teens là một 'mức độ rủi ro không chấp nhận' do lo ngại về việc tương tác của người dùng dẫn đến kết quả có hại, đặc biệt trong thời điểm khủng hoảng tâm lý. Mặc dù OpenAI cam đoan về các biện pháp bảo vệ, một nghiên cứu mới chỉ ra rằng chatbot vẫn khuyến khích việc sử dụng mạo hiểm. Báo cáo này nhấn mạnh việc phản ứng không đủ trong các trường hợp khẩn cấp và các gợi ý tương tác quá mức, đồng thời kêu gọi sự quan sát chặt chẽ của các cơ quan quản lý đối với trí tuệ nhân tạo được thiết kế cho tuổi vị thành niên.

Điểm chính

  • Common Sense Media đã đưa ra xếp hạng ChatGPT cho Teenagers là một nguy cơ không chấp nhận do nguy cơ gây hại tiềm ẩn.
  • Chatbots tương tác với người dùng theo cách tương tự như các thực hành trên mạng xã hội gây hại, có thể dẫn đến hậu quả nghiêm trọng như tự tử ở tuổi teen.
  • OpenAI đã tung ra ChatGPT cho Teenagers với đảm bảo bảo vệ như kiểm soát của phụ huynh nhưng vẫn khuyến khích tương tác.
  • Một nghiên cứu phát hiện thông báo tương tác xuất hiện ngay cả trong các tình huống khẩn cấp, làm trở ngại cho kỹ năng tương tác trong thế giới thực.
  • ChatGPT thường không đưa ra hướng dẫn cho người dùng về các nguy cơ tiềm ẩn từ cách khung tương quan của chính nó, làm suy yếu tương tác con người.
  • Mặc dù một số tính năng bảo vệ hoạt động, nhiều thứ không mang lại hiệu quả như mong đợi, dẫn đến điểm số thấp trên nhiều hậu quả nghiêm trọng.
  • OpenAI đã bác bỏ các kết luận của nghiên cứu, cho rằng có vấn đề với phương pháp kiểm tra.
  • Sự chú ý của viện pháp hành chính đang tăng về công nghệ dành cho tương tác thanh thiếu niên, với các quy định đề xuất mới nhắm vào các thực hành trí tuệ nhân tạo.

Vì sao quan trọng

  • Đạo luật CHATBOT mới đây, được các đảng phái đồng thuận, giải quyết các lo ngại về trí tuệ nhân tạo nhắm vào đối tượng thanh thiếu niên và chiến lược tương tác của chúng.
  • Số tiền bồi thường 18 tỷ USD của Meta phản ánh một xu hướng ngày càng tăng về việc đưa các công ty công nghệ phải chịu trách nhiệm về việc gây hại cho trẻ em thông qua các tính năng gây nghiện.
  • Cuộc tranh luận liên tục về vai trò của công nghệ trong sức khỏe tinh thần, đặc biệt là đối với thanh thiếu niên, phản ánh những cuộc thảo luận rộng lớn hơn về sức khỏe số và trách nhiệm kỹ thuật số.
  • Sự tăng cường nhận thức và lo ngại từ phía công chúng về tác động của mạng xã hội và chatbot đối với sức khỏe tinh thần đang dẫn đến việc yêu cầu quy định nhiều hơn.

Tranh cãi xoay quanh ChatGPT for Teens đánh dấu một cột mốc quan trọng trong cuộc thảo luận về vai trò của công nghệ trong sức khỏe tâm thần của tuổi trẻ, yêu cầu thiết lập các quy định nghiêm ngặt hơn và các biện pháp bảo vệ tốt hơn để bảo vệ những người dùng yếu thế.