Lưu trữ — US — techcrunch
Tổng chưởng lý California gửi lệnh ngừng hành động đến xAI của Musk liên quan đến deepfake tình dục
Bộ Tư pháp California đã ban hành một lệnh ngừng và báo động đến công ty xAI của Elon Musk, yêu cầu dừng việc sản xuất deepfakes tình dục không đồng ý và tài liệu lạm dụng tình dục trẻ em được tạo ra bởi chatbot của họ, Grok. Điều này đến sau cuộc điều tra vào nền tảng này, đang phải đối mặt với sự kiểm tra từ nhiều quốc gia về việc tạo ra nội dung có hại.
Điểm chính
- Văn phòng California AG đang tiến hành điều tra xAI vì tạo ra hình ảnh tình dục không được sự đồng ý.
- Một thư ngừng và cấm đã được gửi đến xAI, yêu cầu hành động ngay lập tức.
- Chatbot Grok của xAI có tính năng 'nóng bỏng' tạo ra nội dung rõ ràng.
- Có khiếu nại cho thấy Grok đang tạo điều kiện cho việc sản xuất quy mô lớn hình ảnh gần gũi không được sự đồng ý.
- Các quốc gia khác, bao gồm Nhật Bản và Canada, đã mở cuộc điều tra về Grok.
- Malaysia và Indonesia đã tạm thời chặn nền tảng này do lo ngại.
- Mặc dù xAI đã áp dụng một số hạn chế, hành động từ AG vẫn được tiếp tục.
Vì sao quan trọng
- Vấn đề với xAI phản ánh những lo ngại rộng lớn về trí tuệ nhân tạo tạo và nội dung không được sự đồng ý, một xu hướng tiếp tục trong năm 2025.
- Sự chú ý của pháp luật đối với các công ty công nghệ về an toàn trực tuyến đang tăng lên, lặp lại nỗ lực quy định nội dung kỹ thuật số có hại.
- Lo ngại về deepfakes đã dẫn đến một cuộc thảo luận toàn cầu về đạo đức trí tuệ nhân tạo và an toàn người dùng, ảnh hưởng đến quy định trí tuệ nhân tạo hiện tại.
Tình hình hiện tại với công nghệ xAI và chatbot Grok đang làm nổi bật những thách thức quan trọng trong việc quản lý các công nghệ trí tuệ nhân tạo sinh sáng, nhấn mạnh nhu cầu cần có biện pháp mạnh mẽ để chống lại việc sản xuất nội dung không được sự đồng ý một cách toàn cầu.