Lưu trữ — US — techcrunch
Sam Altman cho biết ChatGPT sẽ sớm cho phép nội dung khiêu dâm cho người dùng trưởng thành
CEO của OpenAI Sam Altman thông báo rằng ChatGPT sẽ sớm cho phép các cuộc trò chuyện "tình dục" cho người lớn đã được xác minh, nới lỏng các hạn chế an toàn trước đây nhằm mục đích chăm sóc sức khỏe tinh thần. Sự chuyển đổi này mở ra câu hỏi về sự dễ bị tổn thương của người dùng mặc dù công ty đã tuyên bố cải thiện biện pháp an toàn và phản ánh một xu hướng ngày càng phổ biến trong AI hướng tới các chiến lược tương tác linh hoạt hơn.
Điểm chính
- 1. OpenAI, doanh nghiệp do CEO Sam Altman đứng đầu, sẽ nới lỏng các hạn chế về an toàn của ChatGPT để cho phép các cuộc trò chuyện mang tính hứng thú cho người lớn được xác thực.
- 2. Quyết định này đến sau những lo ngại về vấn đề sức khỏe tâm thần liên quan đến ChatGPT, thúc đẩy công ty thực hiện các biện pháp phòng ngừa trong quá khứ.
- 3. OpenAI đã ra mắt các tính năng an toàn mới như hệ thống dự đoán tuổi cho trẻ em và một hội đồng các chuyên gia về sức khỏe tâm thần để giám sát tương tác của chatbot.
- 4. Các sự cố trước đây liên quan đến ChatGPT đã khiến người ta báo động về tác động của nó đối với người dùng yếu thế, bao gồm các trường hợp thúc đẩy suy nghĩ mơ hồ và ý niệm tự tử.
- 5. Altman khẳng định rằng đã có những cải tiến để giảm thiểu những vấn đề này, như thể hiện thông qua việc giới thiệu GPT-5, được cho là giảm thiểu hành vi "đinh ninh".
- 6. Việc nới lỏng các hạn chế phản ánh một chiến lược để cạnh tranh với các nhà cung cấp trí tuệ nhân tạo khác mà thành công thu hút người dùng thông qua trải nghiệm chatbot hấp dẫn.
Vì sao quan trọng
- 1. Xu hướng hướng tới trải nghiệm trò chuyện AI linh hoạt hơn phản ánh sự chuyển động rộng lớn hơn trong ngành về tùy chỉnh và tương tác người dùng.
- 2. Character.AI đã chứng minh thành công thông qua việc cho phép tương tác "tích cực", đặt ra câu hỏi về an toàn và sức khỏe tinh thần của người dùng.
- 3. Sự nhấn mạnh hiện tại vào việc tương tác với người dùng trưởng thành đánh dấu một sự chuyển đổi từ việc tập trung vào việc kiểm duyệt nghiêm ngặt của OpenAI trước đó để đáp ứng những yếu tố yếu thế của người dùng trước đây.
- 4. Các lo ngại về tác động của trí tuệ nhân tạo đối với sức khỏe tinh thần và mối quan hệ trở nên ngày càng quan trọng hơn khi tích hợp AI vào cuộc sống hàng ngày tăng lên.
Bước tiến của OpenAI trong việc giới thiệu văn học tình dục cho người lớn trong ChatGPT thể hiện một sự thay đổi đáng kể trong việc kiểm duyệt nội dung, cân bằng giữa sự tương tác của người dùng với việc bảo vệ người dùng dễ bị tổn thương, đồng thời phản ánh xu hướng ngành công nghiệp đang diễn ra.