Tại Trung Quốc, ảnh hàng lỗi do AI tạo ra được dùng để đòi hoàn tiền, các sàn thương mại điện tử đáp trả bằng AI

Chuyện gì đã xảy ra

Một số người mua ở Trung Quốc dùng AI tạo sinh để biến món hàng còn tốt thành món hàng bị hỏng. Sau đó, họ gửi ảnh giả và đòi lại tiền. Ở Thượng Hải, một ảnh thú bông có viền lạ và ánh sáng, bóng đổ sai rõ ràng, nhưng vẫn được hoàn 50 nhân dân tệ. Ở Hồ Bắc, ảnh quả chuối thối trông giống hệt ảnh người bán chụp trước khi gửi hàng, và yêu cầu hoàn tiền cũng được chấp nhận.

Vì sao dễ bị lợi dụng

Nhiều cửa hàng online ở Trung Quốc cho phép người mua giữ lại hàng rẻ hoặc hàng tươi, chỉ cần hoàn tiền. Cách này tiết kiệm phí vận chuyển và thời gian. Nhưng cũng vì vậy, kẻ gian dễ dùng ảnh giả có vết rách, vết bẩn hoặc nấm mốc. Người bán rất khó chứng minh ảnh là giả. Chỉ nói ảnh trông lạ thì chưa đủ để từ chối hoàn tiền. Thuê chuyên gia kiểm tra ảnh đôi khi còn tốn hơn giá món hàng.

Những con số chính

• Taobao và Tmall của Alibaba đã thêm công cụ AI tìm ảnh giả. Người bán có thể báo ảnh đáng ngờ ngay trên màn hình chat, qua công cụ Qianniu.
• Taobao cho biết mô hình AI của họ chính xác 95%. Khi mô hình nói một ảnh là giả, thì 95% lần là đúng.
• Độ phủ (recall) của mô hình là 50%. Nghĩa là nó chỉ tìm được một nửa số ảnh giả.
• Đối thủ JD.com và Douyin của ByteDance cũng đã bắt đầu thử nghiệm dịch vụ tìm ảnh do AI tạo ra.

Vì sao chuyện này quan trọng

Đây là một cuộc đấu mới giữa các công cụ AI. Kẻ gian dùng AI để tạo bằng chứng giả, còn các nền tảng dùng AI để bắt chúng. Người bán trung thực có thể mất tiền, và người mua trung thực có thể bị kiểm tra nhiều hơn. Cơ quan quản lý Trung Quốc cũng đang cập nhật quy định, để ngăn các nền tảng ép người bán chấp nhận hoàn tiền mà không cần trả hàng.

Cần theo dõi điều gì

• Công cụ AI mới có bắt được nhiều ảnh giả hơn không, vì tỷ lệ độ phủ 50% vẫn còn thấp.
• Các quy định mới về nền tảng online được viết và thi hành ra sao.
• JD.com và Douyin có đưa công cụ tìm ảnh giả ra toàn bộ nền tảng của họ hay không.