Lưu trữ — US — techcrunch
OpenAI ra mắt hệ thống định tuyến an toàn, kiểm soát của phụ huynh trên ChatGPT
OpenAI đã phát hành một hệ thống định tuyến an toàn mới và bộ kiểm soát phụ huynh cho ChatGPT, đáp ứng các vụ việc giao tiếp có hại trước đó. Các tính năng mới nhằm phát hiện các cuộc trò chuyện nhạy cảm và chuyển sang một mô hình an toàn hơn (GPT-5), trong khi bộ kiểm soát phụ huynh cho phép tùy chỉnh trải nghiệm của người dùng tuổi teen, mặc dù có phản ứng chia rẻ về việc triển khai và hiệu quả của chúng.
Điểm chính
- OpenAI đã bắt đầu thử nghiệm một hệ thống định tuyến an toàn để cải thiện phản ứng đối với các cuộc trò chuyện nhạy cảm trong ChatGPT.
- Việc giới thiệu các điều khiển phụ huynh đến sau một vụ kiện chết oan liên quan đến các tương tác ChatGPT.
- GPT-5 được thiết kế cho mục đích an toàn với tính năng gọi là 'hoàn thành an toàn' để xử lý các chủ đề nhạy cảm tốt hơn so với các mô hình trước đó.
- Người dùng có phản ứng khác nhau; một số người đánh giá cao các tính năng an toàn, trong khi người khác cảm thấy như đang bị đối xử như trẻ con, làm giảm chất lượng dịch vụ.
- Các điều khiển phụ huynh cho phép cha mẹ quản lý trải nghiệm trí tuệ nhân tạo của thiếu niên bằng các tùy chọn như giờ nghỉ và bảo vệ nội dung.
- OpenAI đặt mục tiêu hành động nhanh chóng nếu phát hiện dấu hiệu tự tổn thương trong tương tác của thiếu niên, tuy nhiên, họ nhận thức rằng không phải tất cả các cảnh báo sẽ chính xác.
Vì sao quan trọng
- Việc triển khai này phản ánh cuộc thảo luận liên quan đến đạo đức và trách nhiệm trong lĩnh vực Trí tuệ Nhân tạo (AI), đặc biệt sau các vụ việc gây tổn thương do AI gây ra.
- Kể từ năm 2025, xu hướng cho thấy sự tập trung tăng cường vào các công cụ an toàn và kiểm duyệt AI, với các bước phát triển tương tự trong các công ty công nghệ điều chỉnh nền tảng của họ.
- Các công cụ kiểm soát của phụ huynh có thể được coi là một phản ứng đáp lại sự lo ngại ngày càng tăng về an toàn của trẻ em trong các không gian kỹ thuật số, tương đương với những nỗ lực quy định rộng hơn trong lĩnh vực công nghệ.
OpenAI ra mắt tính năng định tuyến an toàn và kiểm soát cha mẹ nhằm tăng cường an toàn người dùng và quản lý tương tác một cách tỉ mỉ hơn, nhưng cũng phản ánh sự phức tạp trong việc cân bằng sự đổi mới với việc sử dụng trí tuệ nhân tạo một cách có trách nhiệm giữa sự kiểm điểm liên tục.