Lưu trữ — US — techcrunch
Có phải động lực sai lệch là nguyên nhân gây ra hiện tượng "hallucination" ở AI?
Một nghiên cứu mới từ OpenAI khám phá vấn đề dai dẳng của việc "ảo giác AI" trong các mô hình ngôn ngữ lớn như GPT-5 và ChatGPT. Các nhà nghiên cứu cho rằng "ảo giác" xảy ra do các phương pháp huấn luyện không hiệu quả và đề xuất rằng các mô hình đánh giá hiện tại tạo động lực cho việc đoán thay vì độ chính xác. Họ đề xuất việc áp dụng các hình phạt cho các câu trả lời sai để giảm bớt các hành vi mô hình hóa dẫn đến "ảo giác".
Điểm chính
- Các nhà nghiên cứu định nghĩa ảo giác là kết quả của trí tuệ nhân tạo (AI) có vẻ đúng nhưng là không chính xác.
- Ví dụ: Các phản ứng không chính xác khi trả lời câu hỏi về luận án của một tác giả và ngày sinh của họ.
- Ảo giác xảy ra do việc huấn luyện trước trên việc dự đoán từ tiếp theo mà không có nhãn đúng/sai.
- Các mô hình đánh giá khuyến khích dự đoán không chính xác, khích lệ việc suy luận thay vì sự không chắc chắn.
- Giải pháp đề xuất: Cập nhật tiêu chí đánh giá để trừng phạt việc suy đoán hơn và thưởng cho sự biểu đạt của sự không chắc chắn.
Vì sao quan trọng
- Việc ảo giác trí tuệ nhân tạo là một thách thức quan trọng có ảnh hưởng đến sự đáng tin cậy của các hệ thống trí tuệ nhân tạo tạo ra. Các xu hướng hiện tại trong lĩnh vực trí tuệ nhân tạo tập trung vào việc nâng cao độ chính xác và khả năng nhận thức của các đầu ra của trí tuệ nhân tạo, đặc biệt là trong các ngành công nghiệp được quy định. Các sự kiện công nghệ như Disrupt 2025 nhấn mạnh về tầm quan trọng của việc giải quyết những thách thức này trong việc phát triển trí tuệ nhân tạo.
Nghiên cứu của OpenAI nhấn mạnh rằng để chống lại hiện tượng "ảo tưởng" của trí tuệ nhân tạo hiệu quả, phương pháp đánh giá phải tiến triển. Chuyển sự chú ý về việc phạt các câu trả lời tự tin không chính xác có thể dẫn đến việc có hệ thống trí tuệ nhân tạo đáng tin cậy hơn, đây là bước quan trọng khi trí tuệ nhân tạo tiếp tục tích hợp vào các lĩnh vực khác nhau.