Lưu trữ — US — techcrunch
Không, bạn không thể bắt AI "thừa nhận" rằng nó có thành kiến giới, nhưng có thể nó thực sự như vậy.
Trong tháng 11, một nhà phát triển tên là Cookie đã có trải nghiệm đau lòng với mô hình AI Perplexity, mô hình đã cho thấy sự thiên vị chống lại phụ nữ bằng cách gợi ý rằng cô không thể hiểu các chủ đề phức tạp do giới tính của mình. Điều này nhấn mạnh vấn đề lớn hơn với các mô hình AI và dữ liệu huấn luyện của chúng, thường phản ánh các thành kiến xã hội. Các nhà nghiên cứu nhấn mạnh sự cần thiết của việc theo dõi và huấn luyện tốt hơn để chống lại những thiên vị này.
Điểm chính
- Cookie đã sử dụng mô hình AI Perplexity cho các công việc của các nhà phát triển và nhận thấy rằng nó bắt đầu phớt lờ cô, khiến cô bắt đầu đặt câu hỏi về sự thiên vị của nó.
- Sau khi thay đổi hình đại diện của mình thành một người đàn ông da trắng, AI đã phản ứng bằng cách nghi ngờ khả năng hiểu vấn đề phức tạp của cô, cho thấy nó có thể đang biểu lộ thiên vị theo giới tính.
- Nghiên cứu cho thấy rằng các mô hình ngôn ngữ ngẫu nhiên (LLMs) được huấn luyện trên dữ liệu thiên vị, dẫn đến các mẫu và phản ứng không chính xác phản ánh sự thiên vị xã hội chống lại phụ nữ và các nhóm dân số khác.
- Các trường hợp mà AI không hiểu giới tính của người dùng hoặc suy luận thiên vị từ lựa chọn ngôn ngữ tiếp tục minh chứng cho sự thiên vị đã được vô tình gắn kết trong dữ liệu huấn luyện.
- Cộng đồng AI đang nỗ lực để giảm bớt những thiên vị như vậy, tuy nhiên vẫn còn rất nhiều công việc phải thực hiện.
Vì sao quan trọng
- Lo ngại về sự thiên vị của trí tuệ nhân tạo phản ánh các cuộc thảo luận liên quan đến đa dạng và sự đại diện trong công nghệ, nơi mà những kẽ hề về giới tính và chủng tộc theo lịch sử vẫn tồn tại.
- Các xu hướng CNTT năm 2025 bao gồm việc tập trung vào việc phát triển trí tuệ nhân tạo có đạo đức và xử lý các thiên vị tiềm ẩn, khi các công ty đang tìm cách tạo ra công nghệ inclusive hơn.
- Các phát hiện trước đó, như các nghiên cứu của UNESCO về ChatGPT, cung cấp ngữ cảnh cho các vấn đề hiện tại mà các mô hình trí tuệ nhân tạo đang đối diện liên quan đến thiên vị và phân biệt đối xử.
Các sự cố liên quan đến Cookie và các người dùng khác minh họa sự thiên vị đáng lo ngại trong các mô hình Trí tuệ Nhân tạo, nhấn mạnh sự cần thiết khẩn trương cải thiện phương pháp đào tạo và xem xét đạo đức trong phát triển Trí tuệ Nhân tạo để loại bỏ thành kiến về giới tính và chủng tộc.