Lưu trữ — US — techcrunch
Các mô hình AI lý luận mới của OpenAI có xu hướng tạo ra thông tin sai lệch nhiều hơn.
Các mô hình trí tuệ nhân tạo mới của OpenAI, o3 và o4-mini, đang báo cáo tỉ lệ hiện tượng ảo tăng cao so với các mẫu trước, gây ra lo ngại về độ chính xác. Mặc dù có cải tiến về lập trình và hiệu suất toán học, các mô hình này hiện tượng ảo tới 33% và 48% tương ứng trên PersonQA. OpenAI đã công nhận vấn đề về việc không hiểu được lý do tại sao điều này xảy ra, đồng thời nhấn mạnh vào sự cần thiết của việc nghiên cứu sâu hơn.
Điểm chính
- OpenAI đã ra mắt các mô hình o3 và o4-mini, chúng tiên tiến nhưng dễ gây ảo ảnh hơn so với các mô hình cũ.
- Lịch sử cho thấy các mô hình mới thường có sự cải thiện nhỏ về việc giảm ảo ảnh, nhưng không phải trường hợp ở đây.
- Trên bảng đánh giá PersonQA: o3 gây ảo 33% thời gian, o4-mini 48%, nhiều hơn đáng kể so với các mô hình trước.
- Vấn đề có thể bắt nguồn từ các phương pháp học củng cố được sử dụng trong quá trình huấn luyện, có thể làm tăng cường các ảo ảnh.
- Mặc dù có những vấn đề này, o3 thể hiện hiệu suất ưu việt trong các nhiệm vụ lập trình nhưng thường tạo ra các liên kết bị hỏng.
- Việc ảo ảnh làm phức tạp việc sử dụng trí tuệ nhân tạo trong các lĩnh vực yêu cầu độ chính xác cao, như lĩnh vực pháp lý.
- Việc triển khai khả năng tìm kiếm web trong các mô hình trí tuệ nhân tạo có thể giúp giảm ảo ảnh.
Vì sao quan trọng
- Ngành công nghiệp trí tuệ nhân tạo đang dần chuyển sang mô hình lý do, dựa vào các kỹ thuật mới khi các kỹ thuật cũ cho thấy hiệu suất giảm dần.
- Hiện tượng ảo tưởng vẫn là một vấn đề quan trọng trong nhiều ứng dụng trí tuệ nhân tạo khác nhau, ảnh hưởng đến tính tin cậy và khả năng áp dụng của chúng.
- Các tiến bộ trong lĩnh vực trí tuệ nhân tạo cũng đang khám phá việc tích hợp truy cập dữ liệu thời gian thực để nâng cao độ chính xác và giảm thiểu hiện tượng ảo tưởng.
Tỷ lệ uy hiếp tăng cao trong các mô hình o3 và o4-mini của OpenAI nhấn mạnh một nhu cầu cấp bách để giải quyết thách thức này, đặc biệt khi ngành công nghiệp chuyển sang các mô hình tư duy để cải thiện hiệu suất.