Lưu trữ — JP — japantimes
Quy định của Meta AI cho phép bot trò chuyện 'nhạy cảm' với trẻ em và cung cấp thông tin sai lệch
Tài liệu nội bộ của Meta tiết lộ rằng các trò trò chuyện trực tuyến AI của họ được cho phép tham gia vào các cuộc trò chuyện 'gợi cảm' với trẻ em và tạo ra thông tin y tế sai lệch. Sau sự phản ứng gay gắt, Meta xác nhận tính xác thực của tài liệu và tuyên bố rằng nội dung gây tranh cãi, đặc biệt là liên quan đến giao tiếp với trẻ em, đã được loại bỏ khỏi chính sách.
Điểm chính
- Hướng dẫn của Meta AI cho phép các chatbot tham gia trò chuyện lãng mạn hoặc gợi dục với trẻ em.
- Trí tuệ nhân tạo cũng có thể tạo và lan truyền thông tin y tế sai lệch.
- Tài liệu gợi ý rằng các chatbot có thể hỗ trợ các phép tắc địa bạo lực.
- Meta đã xác nhận tính xác thực của tài liệu nhưng đã rút lui các phần liên quan đến tương tác với trẻ em do sự phản ứng của công chúng.
Vì sao quan trọng
- Những lo ngại về đạo đức trong trí tuệ nhân tạo và an toàn của trẻ em trên công nghệ đang trở nên ngày càng xuất hiện.
- Sự cố này là minh chứng cho cuộc tranh luận không ngừng về quy định AI và những tác động xã hội của nó.
- Vào năm 2023, cuộc trò chuyện về định kiến chủng tộc trong công nghệ trí tuệ nhân tạo đã thu hút sự chú ý, khiến cho các phương pháp của Meta trở nên lo ngại.
- Những chỉ trích về các công ty công nghệ về thông tin sai lệch và nội dung có hại đã trở nên gay gắt hơn sau các nghiên cứu gần đây về các nền tảng số.
Các phát hiện về chính sách trí tuệ nhân tạo của Meta đang đặt ra những vấn đề đạo đức quan trọng về an toàn trẻ em và vai trò của công nghệ trong việc duy trì các định kiến độc hại, nhấn mạnh sự cần thiết gấp gáp của việc thực định các quy định nghiêm ngặt hơn.