Lưu trữ — US — turtlesai
Amsterdam và Thuật Toán Đạo Đức: Một Thí Nghiệm Thất Bại Trong Dịch Vụ Xã Hội
Dự án Amsterdam's SmartCheck, một dự án trí tuệ nhân tạo nhằm phát hiện gian lận trong lợi ích xã hội, đã thất bại mặc dù đã đầu tư đáng kể và tuân thủ các hướng dẫn về đạo đức. Hệ thống đã tạo ra sự thiên vị và không chính xác, không cải thiện được so với sự đánh giá của con người. Dự án được khởi đầu vào năm 2023, nhưng đã bị bỏ cuộc vào cuối năm 2024 sau khi trả về nhiều kết quả dương tính sai và đặt ra những câu hỏi đạo đức cấp bách về vai trò của trí tuệ nhân tạo trong dịch vụ xã hội.
Điểm chính
- Amsterdam đã đầu tư hàng triệu đô la vào dự án trí tuệ nhân tạo SmartCheck để phát hiện gian lận trong các chế độ trợ cấp xã hội.
- Thuật toán nhằm mục tiêu công bằng và minh bạch, nhưng các cuộc kiểm tra lặp lại đã chỉ ra sự thiên vị.
- Trong giai đoạn thử nghiệm (năm 2023), hệ thống đã tạo ra nhiều cảnh báo sai và không vượt qua hiệu suất của người lao động.
- Các người hưởng lợi đã đưa ra đề xuất để giảm thiểu thiên vị và tăng cường tính minh bạch, tiết lộ sự hoài nghi về khách quan của mô hình.
- Áp lực chính trị và từ phía công chúng đã dẫn đến việc hủy dự án vào tháng 11 năm 2023.
- Sự thiếu dữ liệu cá nhân do các hạn chế của GDPR đã làm trì hoãn kiểm toán độc lập, ảnh hưởng đến trách nhiệm.
- So sánh với Ý và Pháp chỉ ra các thách thức rộng lớn với các hệ thống trí tuệ nhân tạo tương tự trong các dịch vụ xã hội.
Vì sao quan trọng
- Sự thất bại của SmartCheck phản ánh xu hướng toàn cầu về việc kiểm soát trách nhiệm của trí tuệ nhân tạo trong các dịch vụ xã hội.
- Các xu hướng công nghệ thông tin năm 2025 nhấn mạnh việc cần thiết có các mô hình trí tuệ nhân tạo minh bạch, đặc biệt trong những lĩnh vực nhạy cảm như hỗ trợ xã hội.
- Những vấn đề tương tự ở các quốc gia khác như Ý và Pháp là minh chứng cho những thách thức liên quan đến đề xuất thiên vị của trí tuệ nhân tạo và những lo ngại về đạo đức.
- Sự phức tạp của việc triển khai tự động hóa dự đoán trong dịch vụ xã hội phản ánh một xu hướng gia tăng về sự hoài nghi đối với sự đáng tin cậy của trí tuệ nhân tạo trong các ứng dụng quan trọng.
Thí nghiệm SmartCheck tại Amsterdam nhấn mạnh những thách thức tồn tại khi triển khai trí tuệ nhân tạo có trách nhiệm trong các dịch vụ xã hội, cho thấy rằng ngay cả khi có hướng dẫn đạo đức nghiêm ngặt cũng không thể đảm bảo kết quả hiệu quả.