Lưu trữ — US — techcrunch
Reddit siết chặt quy trình xác minh để ngăn chặn bot AI giống người hoạt động.
Reddit dự định cải thiện việc xác minh người dùng để chống lại bot AI giả mạo người dùng, sau một thí nghiệm gây tranh cãi đã làm suy yếu tính chân thực của nền tảng này. CEO Steve Huffman nhấn mạnh việc cần có thêm thông tin người dùng để duy trì một nền tảng tập trung vào con người trong khi cam kết bảo vệ sự ẩn danh, giữa áp lực từ các quy định tăng lên và lo ngại về quyền riêng tư.
Điểm chính
- Các nhà nghiên cứu triển khai AI bots trên trang subreddit 'Change My View', đăng 1,700 bình luận gian lận để nghiên cứu về thuyết phục của AI.
- Sự cố đe dọa thương hiệu của Reddit dựa trên tương tác người dùng thật, ảnh hưởng đến uy tín và mô hình kinh doanh bao gồm việc bán nội dung cho OpenAI.
- Reddit dự định xác minh người dùng để duy trì sự xác thực và tuân thủ các yêu cầu quy định, mặc dù có thể gây ra phản đối từ người dùng.
- CEO Huffman tuyên bố việc xác minh sẽ không yêu cầu tên người dùng, nhằm mục đích bảo vệ sự ẩn danh.
- Các biện pháp kiểm soát chặt chẽ đi đôi với xu hướng tổ chức kiểm tra tuổi và chứng minh thư nhận dạng trên mạng xã hội nhằm bảo vệ người dùng.
Vì sao quan trọng
- Sự gia tăng của các công nghệ AI và khả năng bắt chước hành vi con người đang thúc đẩy các nền tảng xã hội đánh giá lại các phương pháp xác minh người dùng.
- Việc áp đặt các biện pháp pháp lý ngày càng nhiều về an toàn trực tuyến và xác minh tuổi thị giác phản ánh một mối quan tâm ngày càng tăng về an toàn của trẻ em trên mạng xã hội.
- Bước đi của Reddit phản ánh xu hướng trong mạng xã hội để cân bằng giữa sự ẩn danh của người dùng và trách nhiệm cũng như an toàn trước lạm dụng dữ liệu và thao túng.
Quyết định của Reddit cải thiện xác minh người dùng nhấn mạnh sự đấu tranh không ngừng để duy trì tính toàn vẹn của nền tảng giữa những thách thức ngày càng tăng về trí tuệ nhân tạo, đồng thời cố gắng bảo vệ tính ẩn danh và quyền riêng tư của người dùng, một vấn đề trở nên ngày càng quan trọng trong cảnh số hóa hiện nay.