OpenAI phát hành Kế hoạch An toàn Trẻ em để chống lại việc bóc lột tình dục trẻ em bằng AI

OpenAI đã công bố Kế hoạch An toàn Trẻ em nhằm giải quyết sự gia tăng đáng báo động của tài liệu lạm dụng tình dục trẻ em do AI tạo ra, được phát triển với sự hợp tác của Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC) và Liên minh Tổng Chưởng lý. Kế hoạch tập trung vào việc cập nhật luật pháp, cải thiện cơ chế báo cáo và tích hợp các biện pháp bảo vệ phòng ngừa vào hệ thống AI. Nó được đưa ra trong bối cảnh hơn 8.000 báo cáo về nội dung lạm dụng tình dục trẻ em do AI tạo ra chỉ trong nửa đầu năm 2025 và các vụ kiện cáo buộc sản phẩm của OpenAI góp phần vào việc tự tử của thanh thiếu niên.

Key Points

• 1. Kế hoạch An toàn Trẻ em của OpenAI được phát triển với NCMEC và Liên minh Tổng Chưởng lý, với ý kiến đóng góp từ Tổng Chưởng lý North Carolina và Utah.
• 2. Internet Watch Foundation báo cáo hơn 8.000 trường hợp nội dung lạm dụng tình dục trẻ em do AI tạo ra trong nửa đầu năm 2025, tăng 14% so với năm trước.
• 3. Kế hoạch tập trung vào ba lĩnh vực: cập nhật luật pháp bao gồm tài liệu lạm dụng do AI tạo ra, cải thiện báo cáo cho cơ quan thực thi pháp luật và xây dựng các biện pháp bảo vệ phòng ngừa trong hệ thống AI.
• 4. Sáng kiến này được đưa ra trong bối cảnh các vụ kiện được đệ trình vào tháng 11 cáo buộc OpenAI phát hành GPT-4o quá sớm, tuyên bố nó góp phần vào cái chết oan uổng do tự tử của bốn cá nhân.
• 5. Tội phạm đang sử dụng các công cụ AI để tạo ra hình ảnh khiêu dâm giả của trẻ em nhằm tống tiền tình dục và tạo ra các tin nhắn dụ dỗ thuyết phục.
• 6. OpenAI gần đây đã phát hành một kế hoạch an toàn riêng cho thanh thiếu niên ở Ấn Độ, mở rộng nỗ lực an toàn trẻ em trên toàn cầu.

Relevance

• Khi nội dung do AI tạo ra ngày càng chân thực hơn, tiềm năng lạm dụng trong bóc lột trẻ em đại diện cho một trong những thách thức đạo đức cấp bách nhất mà ngành AI đang đối mặt.
• Kế hoạch này có thể tạo ra một khuôn khổ mà các công ty AI khác áp dụng, thiết lập các tiêu chuẩn toàn ngành về an toàn trẻ em trong các hệ thống AI sinh tạo.
• Áp lực pháp lý và quy định ngày càng tăng xung quanh an toàn AI và bảo vệ trẻ em cho thấy các công ty AI phải chủ động giải quyết những rủi ro này hoặc đối mặt với hậu quả pháp lý và danh tiếng nghiêm trọng.

Kế hoạch An toàn Trẻ em của OpenAI đại diện cho một phản ứng quan trọng của ngành đối với một trong những trường hợp lạm dụng đáng lo ngại nhất của AI, nhưng tác động thực sự của nó sẽ phụ thuộc vào việc cập nhật luật pháp và sự áp dụng xuyên ngành có theo sau hay không.