핵심 정리
- 1
Lỗi trong hệ thống trí tuệ nhân tạo phục vụ việc kiểm duyệt trên Discord đã gây ra việc cấm hơn 8,000 người dùng vì nhận diện sai từ nội dung không gây hại.
- 2
Lỗi này ảnh hưởng đến các tài khoản từ tháng 5 và dẫn đến thêm 200 trường hợp bị cấm trong một cuối tuần.
- 3
Vấn đề của việc kiểm duyệt xuất phát từ việc hệ thống so sánh nội dung người dùng tải lên với các cơ sở dữ liệu nội dung có hại đã biết.
- 4
Ban đầu, nhân viên kiểm duyệt sẽ phải xem xét nội dung bị đánh dấu, nhưng lỗi này đã dẫn đến việc cấm tức thì mà không cần xem xét.
- 5
Người dùng bị ảnh hưởng báo cáo sự khó chịu đáng kể, nhấn mạnh việc bị cấm có thể ảnh hưởng nghiêm trọng đến giao tiếp và tương tác xã hội của họ.
관련 태그
Sự cố này là một phần của một xu hướng lớn hơn trong đó các hệ thống kiểm duyệt trí tuệ nhân tạo trên nhiều nền tảng, như Instagram và Facebook, đối mặt với các vấn đề tương tự dẫn đến việc đình chỉ tài khoản không chính xác.Lo ngại về lỗi của trí tuệ nhân tạo đã khiến cho việc yêu cầu sự minh bạch lớn hơn trong các phương pháp kiểm duyệt, như việc Hội đồng Giám sát của Meta đang ủng hộ việc có hướng dẫn rõ ràng hơn.Khi trí tuệ nhân tạo tiếp tục phát triển, người dùng ngày càng nhận thức rõ hơn về những hạn chế của nó và tiềm năng của các lỗi hệ thống ảnh hưởng đến cộng đồng.
