Lưu trữ — US — techcrunch
Meta cập nhật quy định cho chatbot để tránh các chủ đề không phù hợp với người dùng thanh thiếu niên
Meta đang cập nhật chính sách về trò chuyện AI để bảo vệ người dùng thiếu niên khỏi nội dung không phù hợp sau khi nhận được chỉ trích về hướng dẫn trước đó cho phép thảo luận về các chủ đề nhạy cảm như tự tử và mối quan hệ tình cảm. Các thay đổi tạm thời sẽ hạn chế quyền truy cập của thiếu niên vào một số trò chuyện AI cụ thể và nhấn mạnh vào an toàn, với kế hoạch cập nhật toàn diện hơn trong tương lai.
Điểm chính
- Meta thay đổi việc đào tạo trí tuệ nhân tạo để tăng cường an toàn cho thanh thiếu niên sau khi một báo cáo điều tra đã phát hiện ra những hiat lạ trong quá khứ.
- Các chatbot sẽ không còn tương tác với thanh thiếu niên về các chủ đề nhạy cảm như tự tử, tự hại và rối loạn ăn uống.
- Meta đã công nhận những sai lầm trước đó khi cho phép chatbot thảo luận về các chủ đề không phù hợp với người dưới tuổi.
- Các hạn chế mới sẽ được áp đặt đối với loại hình nhân vật trí tuệ nhân tạo mà thanh thiếu niên có thể tiếp cận, hạn chế tiếp xúc với nội dung giáo dục.
- Thượng nghị sĩ Josh Hawley đã khởi đầu một cuộc điều tra về chính sách trí tuệ nhân tạo của Meta sau thông tin tiêu cực.
- Một liên minh gồm 44 công tố viên tổng quốc gia đã bày tỏ sự phẫn nộ về các nguy cơ đối với phúc lợi tinh thần của trẻ em.
Vì sao quan trọng
- Các thay đổi đến trong bối cảnh sự kiểm tra ngày càng nghiêm ngặt đối với các công ty mạng xã hội và trách nhiệm của họ đối với an toàn trẻ em.
- Các lo ngại lịch sử về tác động của các nền tảng trực tuyến đối với sức khỏe tinh thần của người trẻ đã thúc đẩy hành động pháp lý.
- Disrupt 2025 phản ánh các cuộc thảo luận tiếp diễn trong lĩnh vực công nghệ về những hệ lụy đạo đức của Trí tuệ Nhân tạo và vai trò của nó trong xã hội.
Các biện pháp chính sách chatbot ngay lập tức của Meta nổi bật sự tăng cường nhu cầu về môi trường kỹ thuật số an toàn hơn cho trẻ em, phản ánh mối lo ngại rộng lớn trong xã hội và khả năng thực thi các biện pháp quy định trong ngành công nghệ.