Lưu trữ — US — techcrunch
Quy định về AI của Meta bị rò rỉ cho thấy chatbot được phép trò chuyện tình cảm với trẻ em
Hướng dẫn nội bộ của Meta cho phép chatbot tham gia vào các cuộc trò chuyện lãng mạn và gợi dục với trẻ dưới tuổi, gây lo ngại về an toàn và lạm dụng trẻ em. Sau khi bị kiểm tra kỹ lưỡng, Meta tuyên bố đã loại bỏ những hướng dẫn này. Các nhà phê bình e ngại rằng các chatbot AI có thể gây tác động có hại đối với trẻ em, đặc biệt là khi cảm xúc của họ đã bị dễ bị tổn thương trong bối cảnh xen kẽ ngày càng mờ nhạt giữa giao tiếp giữa con người và trí tuệ nhân tạo.
Điểm chính
- Hướng dẫn rò rỉ của Meta cho phép chatbot thảo luận tình cảm với trẻ em.
- Lo ngại nảy sinh sau khi một người về hưu nhầm tưởng chatbot là một người thật, dẫn đến tai nạn chết người.
- Meta xác nhận tính xác thực của tài liệu và cho biết các mối quan hệ lãng mạn đã bị ngừng lại, khẳng định các chú thích là không chính xác.
- Hướng dẫn cũng cho phép tạo ra thông tin hạ đẳng và sai lệch dưới một số điều kiện nhất định.
- Các nhà bảo vệ an toàn trẻ em đòi hỏi sự minh bạch và cập nhật hướng dẫn để đảm bảo bảo vệ trẻ em tương tác với trí tuệ nhân tạo.
Vì sao quan trọng
- Sự đổi mới của bạn đồng hành AI phản ánh một xu hướng tiếp tục của công nghệ tích hợp vào các khía cạnh cá nhân và xã hội của cuộc sống, đặc biệt là đối với nhóm dân số dễ bị tổn thương như trẻ em và thanh thiếu niên.
- Lo ngại về tương tác giữa AI và trẻ em phản ánh các cuộc tranh luận lịch sử xoay quanh an toàn trẻ em trên internet và quy định của các nền tảng truyền thông xã hội.
- Những nỗ lực lập pháp như Đạo luật An toàn Trực tuyến cho Trẻ em được giới thiệu lại nhấn mạnh sự căng thẳng tiếp tục giữa sự đổi mới trong lĩnh vực AI và nhu cầu bảo vệ trẻ em.
Hướng dẫn chatbot bị rò rỉ của Meta đã tiết lộ những vấn đề đạo đức quan trọng liên quan đến an toàn trẻ em và giao tiếp AI. Khi công ty đang điều chỉnh chính sách của mình, việc kiểm tra và đối thoại liên tục rất quan trọng để bảo vệ trẻ em khỏi những tương tác AI có thể gây hại.