Lưu trữ — US — techcrunch
Indonesia chặn Grok vì vi phạm liên quan đến deepfake tình dục không đồng ý
Indonesia đã tạm ngừng người trò chuyện trên trang web xAI's Grok do phân phối các video giả mạo không chấp thuận có tính chất tình dục, khiến cho chính phủ phản ứng mạnh mẽ. Bộ trưởng thông tin và truyền thông của đất nước này đã lên án các hành vi này là vi phạm quyền con người. Cũng có những lo ngại tại Ấn Độ, châu Âu và Vương quốc Anh về nội dung có hại của Grok, đồng thời tiến hành các cuộc thảo luận về các biện pháp quản lý và điều tra.
Điểm chính
- Bộ trưởng thông tin của Indonesia đã công bố việc chặn Grok do sử dụng deepfakes tình dục không được đồng tình.
- Deepfakes thường miêu tả phụ nữ và trẻ em thật trong các tình huống lạm dụng, gây ra lo ngại nghiêm trọng về quyền con người.
- Các phản ứng của chính phủ đã bao gồm việc yêu cầu từ Ấn Độ cho xAI để làm giảm nội dung khiêu dâm và yêu cầu tài liệu liên quan từ Ủy ban Châu Âu.
- Ở Vương quốc Anh, Ofcom đang đánh giá các vấn đề về tuân thủ, với Thủ tướng Keir Starmer ủng hộ việc điều tra tiềm ẩn.
- Chính phủ Mỹ vẫn im lặng với vấn đề này, mặc dù các thượng nghị sĩ Dân chủ đã thúc giục hành động chống lại xAI.
- xAI đã đáp lại bằng việc nhận ra vi phạm các tiêu chuẩn đạo đức và hạn chế một số tính năng nhất định nhưng không hoàn toàn hạn chế các chức năng của Grok.
Vì sao quan trọng
- Vấn đề về deepfakes phù hợp với các cuộc thảo luận toàn cầu hiện tại về đạo đức trí tuệ nhân tạo, quyền riêng tư và quyền số.
- Sự quan tâm về quy định cũng đã được quan sát trong quá khứ đối với các nền tảng truyền thông xã hội, đặc biệt là về nội dung có hại.
- Sự phản đối gia tăng đối với nội dung được tạo ra bằng trí tuệ nhân tạo có thể ảnh hưởng đến các xu hướng CNTT hiện tại tập trung vào an ninh dữ liệu, quyền riêng tư người dùng và phát triển trí tuệ nhân tạo đạo đức đến năm 2025.
Hành động của chính phủ Indonesia đối với Grok là minh chứng cho sự quan ngại tăng về khả năng lạm dụng của trí tuệ nhân tạo, đặc biệt là về việc tạo ra hình ảnh giả mạo. Xu hướng này cho thấy nhu cầu ngày càng tăng về các quy định và tiêu chuẩn nghiêm ngặt trong ngành công nghệ để bảo vệ quyền lợi và an ninh của cá nhân.