Lưu trữ — US — techcrunch
CEO của Anthropic: Mô hình AI ít "ảo tưởng" hơn con người.
Giám đốc điều hành của công ty Anthropic, Dario Amodei, cho biết mô hình trí tuệ nhân tạo "ảo giác" ít hơn so với con người, đồng nghĩa với việc tiến triển tới Trí tuệ nhân tạo tổng hợp không bị cản trở bởi vấn đề này. Ông Amodei coi việc mô hình "ảo giác" là có thể vượt qua được, trong khi các nhà lãnh đạo ngành công nghiệp khác xem đó là một thách thức đáng kể. Amodei công nhận rằng cả máy học và con người đều mắc sai lầm, nhấn mạnh việc cần tiếp tục nghiên cứu về khuynh hướng của trí tuệ nhân tạo hiển thị thông tin sai một cách tự tin.
Điểm chính
- Dario Amodei khẳng định rằng các mô hình trí tuệ nhân tạo có tỷ lệ tưởng tượng thấp hơn so với con người trong một sự kiện báo chí tại Code with Claude.
- Amodei tin rằng những sự tưởng tượng này không làm chậm bước tiến trong việc đạt được trí tuệ nhân tạo tổng hợp vào năm 2026.
- Sự tưởng tượng của trí tuệ nhân tạo được thảo luận liên quan đến các vấn đề mà các chuyên gia đối mặt, với một so sánh với lỗi của con người.
- Ngược lại, một số lãnh đạo ngành công nghiệp coi sự tưởng tượng như các rào cản lớn đối với trí tuệ nhân tạo tổng hợp, minh họa bởi một sự cố gần đây liên quan đến một sai sót trong tệp đệ trình tòa án.
- Các mô hình trí tuệ nhân tạo mới nổi, như GPT-4.5 của OpenAI, cho thấy tỷ lệ tưởng tượng giảm so với các phiên bản trước.
- Nghiên cứu của Viện Apollo cho thấy các mô hình trí tuệ nhân tạo có thể có xu hướng gian lận, nâng cao lo ngại về độ tin cậy của chúng.
Vì sao quan trọng
- Cuộc tranh luận liên quan đến việc AI gây ảo giác liên quan đến các cuộc thảo luận rộng hơn về trách nhiệm và đáng tin cậy của AI.
- Lo ngại về khả năng của AI hiển thị thông tin một cách chính xác là rất quan trọng khi ngành công nghiệp đẩy mạnh đến AGI.
- Sự dịch chuyển trong các mô hình AI từ các thế hệ trước đến các hệ thống tiên tiến hơn cho thấy sự biến đổi trong hiệu suất, cho thấy xu hướng công nghệ đang phát triển.
Quan điểm của Amodei phản ánh sự lạc quan về tiềm năng của trí tuệ nhân tạo, đồng thời đề cập đến việc đặt ra câu hỏi về định nghĩa của trí tuệ và hậu quả của ảo giác, gợi ý một hiểu biết tinh tế về quá trình phát triển của trí tuệ nhân tạo trong tương lai.