Lưu trữ — US — techcrunch
Tại sao OpenAI chưa đưa nghiên cứu sâu vào API của mình?
OpenAI đang ngăn chặn mô hình nghiên cứu sâu của mình khỏi API của các nhà phát triển trong khi đánh giá rủi ro của trí tuệ nhân tạo có khả năng lan truyền thông tin sai lệch. Công ty đặt mục tiêu là hoàn thiện phương pháp đánh giá "rủi ro thuyết phục trong thế giới thực" trước khi triển khai tiếp, đồng thời đề cập đến lo ngại về chi phí cao và khả năng lạm dụng của mô hình. Hiện tại, mô hình này chỉ có sẵn trong ChatGPT.
Điểm chính
- OpenAI sẽ không giới thiệu mô hình nghiên cứu sâu vào API của mình cho đến khi họ đánh giá các yếu tố rủi ro liên quan đến thông tin sai lệch AI.
- Công ty đang sửa đổi các phương pháp để đo lường 'rủi ro thuyết phục trong thế giới thực' có thể đánh lừa người dùng.
- OpenAI khẳng định rằng mô hình nghiên cứu sâu không phù hợp để lan truyền thông tin sai lệch vì chi phí cao và tốc độ xử lý chậm.
- Mô hình nghiên cứu sâu hoạt động tốt trong các bài kiểm tra nhưng không tốt hơn con người; nó xuất sắc trong việc thuyết phục các mô hình khác trên các nhiệm vụ đơn giản.
- Đối thủ Perplexity thông báo về API nghiên cứu sâu của riêng mình, cho thấy sự cạnh tranh trên thị trường.
Vì sao quan trọng
- Lo ngại về vai trò của trí tuệ nhân tạo trong việc lan truyền thông tin sai lệch đã gia tăng do sự can thiệp chính trị và các cuộc tấn công kỹ thuật xã hội.
- Sự gia tăng của deepfakes trong bối cảnh chính trị, được minh họa bằng các sự kiện trong bầu cử tại Đài Loan, phản ánh những hệ lụy rộng lớn của trí tuệ nhân tạo.
- Sự tiếp cận cẩn thận của ngành công nghiệp trí tuệ nhân tạo đối với những khả năng có thể gây hại phù hợp với các cuộc thảo luận tiếp tục xoay quanh đạo đức và quy định về trí tuệ nhân tạo.
Quyết định của OpenAI từ chối công bố mô hình nghiên cứu sâu của mình trên API là một minh chứng cho sự nhận thức quan trọng về các vấn đề đạo đức của trí tuệ nhân tạo, đặc biệt là trong bối cảnh thông tin sai lệch. Điều này nhấn mạnh sự cần thiết của việc đánh giá liên tục và cải thiện các công nghệ trí tuệ nhân tạo trước khi triển khai công khai.