Lưu trữ — US — techcrunch
Hệ thống lọc nội dung của Tumblr nhầm lẫn gán nhãn bài đăng là 'người lớn', người dùng đổ lỗi cho AI
Các người dùng Tumblr đang cảm thấy bực mình khi hệ thống lọc nội dung của nền tảng này vô tình đánh dấu nhiều bài đăng không chứa nội dung người lớn là 'nội dung người lớn', dẫn đến sự giảm thấy trong tầm nhìn của bài đăng. Vấn đề này, liên quan đến cập nhật gần đây trong ứng dụng Android của họ, đã khiến nhiều người nghi ngờ về lỗi của trí tuệ nhân tạo trong kiểm duyệt, tương tự như các vấn đề mà các nền tảng truyền thông xã hội khác đã phải đối mặt. Tumblr đã nhận biết vấn đề này và đang làm việc để cải thiện và cập nhật quy trình khiếu nại.
Điểm chính
- Nhiều người dùng Tumblr báo cáo rằng bài đăng của họ bị đánh dấu sai là 'nội dung dành cho người trưởng thành', ảnh hưởng đến việc hiển thị.
- Việc đánh dấu sai đang ảnh hưởng đến nhiều nội dung bao gồm GIF, vật phẩm theo chủ đề, và nghệ thuật.
- Công nghệ trí tuệ nhân tạo được nghi ngờ là nguyên nhân gây ra sự cố trên nhiều nền tảng truyền thông xã hội.
- Tumblr cho biết vấn đề này có nguyên nhân từ việc cập nhật ứng dụng Android của họ nhằm mục tiêu cải thiện việc lọc nội dung.
- Công ty dự định tăng cường hệ thống lọc dựa trên ý kiến phản hồi từ người dùng và cập nhật quy trình khiếu nại để xử lý nhiều trường hợp hơn.
- Việc cắt giảm nhân sự kể từ khi Tumblr được Automattic mua lại cũng có thể ảnh hưởng đến khả năng kiểm duyệt của họ.
Vì sao quan trọng
- Sự cố này phản ánh một xu hướng ngày càng tăng của việc thất bại trong việc kiểm duyệt tự động trên mạng xã hội, khơi gợi cuộc trò chuyện về độ tin cậy của trí tuệ nhân tạo.
- Pinterest gần đây đã công nhận việc cấm người dùng do lỗi nội bộ, tạo ra những tương đồng với tình hình của Tumblr.
- Các nền tảng mạng xã hội đang phải đối mặt với sự kiểm tra nghiêm ngặt ngày càng tăng về thực hành kiểm duyệt nội dung của họ, đặc biệt là về việc sử dụng trí tuệ nhân tạo và sự phiền lòng của người dùng.
Vấn đề về việc đánh dấu sai trên Tumblr đã làm nổi bật các thách thức trong việc tự động kiểm duyệt trên mạng xã hội và cần có sự giám sát AI tốt hơn cũng như hỗ trợ người dùng, khi công ty đang cố gắng hoàn thiện hệ thống của mình trong bối cảnh giảm nhân sự.