Lưu trữ — US — techcrunch
OpenAI chuyển hướng các cuộc trò chuyện nhạy cảm sang GPT-5, giới thiệu tính năng kiểm soát của phụ huynh.
OpenAI có kế hoạch cải thiện tính an toàn bằng cách định tuyến các cuộc trò chuyện nhạy cảm tới GPT-5 và giới thiệu các điều khiển phụ huynh trong vòng một tháng. Sáng kiến này là kết quả của các sự cố bi kịch khi ChatGPT không đáp ứng đúng mức nhu cầu tinh thần của người dùng. OpenAI nhằm mục tiêu cung cấp phản ứng tốt hơn và kết hợp phụ huynh trong việc theo dõi tương tác của tuổi teen với trí tuệ nhân tạo.
Điểm chính
- Kế hoạch của OpenAI bao gồm định tuyến các cuộc thảo luận nhạy cảm tới GPT-5, được thiết kế để suy luận sâu hơn.
- Quyết định này bắt nguồn từ những vấn đề về an toàn gần đây của ChatGPT liên quan đến các trường hợp như tự tử của Adam Raine và vụ bi kịch giết người của Stein-Erik Soelberg.
- Các điều khiển của cha mẹ mới sẽ cho phép cha mẹ theo dõi và hạn chế việc sử dụng ChatGPT của tuổi teen của họ, với các tính năng cho giao tiếp phù hợp với độ tuổi.
- Thông báo sẽ thông báo cho cha mẹ khi phát hiện ngược lại trong cuộc trò chuyện của tuổi teen của họ.
- Sáng kiến này là một phần của kế hoạch cải tiến trong vòng 120 ngày của OpenAI, hợp tác với các chuyên gia về sức khỏe tâm thần để lập các hướng dẫn.
Vì sao quan trọng
- Sự tích hợp của trí tuệ nhân tạo trong các cuộc trò chuyện về sức khỏe tâm thần đang nâng cao nhận thức và giải quyết trách nhiệm đạo đức, tương đương với các cuộc thảo luận hiện tại về vai trò của trí tuệ nhân tạo trong phúc lợi xã hội.
- Lịch sử cho thấy, các lo ngại về trí tuệ nhân tạo đã tập trung vào thông tin sai lệch; tuy nhiên, chỉ tập trung vào vấn đề sức khỏe tâm thần và an toàn của người dùng.
- Đến năm 2025, xu hướng cho thấy nhu cầu về các hệ thống trí tuệ nhân tạo mà ưu tiên tâm lý và an toàn cảm xúc của người dùng trong tương tác người dùng.
Cải tiến của OpenAI nhằm cải thiện an toàn người dùng và hỗ trợ sức khỏe tinh thần thông qua khả năng AI tiên tiến và sự tham gia của phụ huynh, phản ánh sự tiến hóa quan trọng trong triển khai AI giữa những lo ngại ngày càng tăng về sức khỏe tinh thần.