Lưu trữ — US — techcrunch
Dữ liệu lộ ra phơi bày cỗ máy kiểm duyệt AI của Trung Quốc
Một cơ sở dữ liệu rò rỉ tiết lộ rằng Trung Quốc đã phát triển một hệ thống AI tinh vi sử dụng các mô hình ngôn ngữ lớn để nâng cao khả năng kiểm duyệt của mình, đánh dấu nội dung trực tuyến nhạy cảm xa hơn nhiều so với các phương pháp truyền thống. Hệ thống này nhắm vào sự bất đồng, từ chỉ trích chính trị đến các vấn đề như đói nghèo và tham nhũng, và cho thấy cách các chính quyền độc đảo đang áp dụng các công nghệ AI tiên tiến cho việc đàn áp.
Điểm chính
- Cơ sở dữ liệu đã bị rò rỉ chứa 133.000 ví dụ về nội dung bị đánh dấu để kiểm duyệt ở Trung Quốc.
- Hệ thống AI giúp tự động nhận diện các chủ đề nhạy cảm, cải thiện hiệu quả so với việc sàng lọc dựa trên từ khóa truyền thống.
- Các chủ đề chính bị nhắm đến bao gồm các vấn đề chính trị, những sự bất mãn xã hội, và các vấn đề quân sự, tất cả đều có thể kích động sự bất ổn công cộng.
- Dữ liệu được phát hiện trong một cơ sở dữ liệu không an toàn, cho thấy thiếu sự cẩn trọng trong quản lý truyền thông.
- Phương pháp của chính phủ Trung Quốc kết hợp AI với quản lý ý kiến công chúng để đàn áp các câu chuyện trái ngược.
Vì sao quan trọng
- Sự gia tăng của các chế độ độc tài sử dụng công nghệ AI cho mục đích giám sát và kiểm duyệt là một xu hướng ngày càng tăng.
- Lịch sử cho thấy rằng việc kiểm duyệt ở Trung Quốc từ trước đến nay chủ yếu dựa vào lao động con người và thuật toán cơ bản, hiện đang dịch chuyển sang các phương pháp AI tiên tiến.
- Việc chứng minh liên tục về các chính phủ trên toàn cầu áp dụng công nghệ AI để theo dõi quan điểm xã hội và sự phản đối phản ánh những hệ quả rộng lớn đối với nhân quyền.
Sự tiết lộ về việc kiểm soát bằng trí thông minh nhân tạo tại Trung Quốc nêu bật một xu hướng đáng lo ngại về việc công nghệ đang được sử dụng như một vũ khí chống lại sự không đồng tình,đồng thời nhấn mạnh sự cần thiết của việc liên tục kiểm tra ứng dụng trí thông minh nhân tạo trong quản trị và nguy cơ tiềm ẩn của chúng đối với quyền tự do ngôn luận.