Lưu trữ — US — techcrunch
Giám đốc điều hành Anthropic muốn mở "hộp đen" của các mô hình AI trước năm 2027
Giám đốc điều hành của công ty Anthropic, Dario Amodei, dự định tiết lộ tính khả giải thích của mô hình trí tuệ nhân tạo vào năm 2027, nhằm giải quyết những lo ngại đáng kể về quá trình ra quyết định của chúng. Mục tiêu là nâng cao sự hiểu biết về những hệ thống mạnh mẽ này giữa sự tự trị ngày càng tăng, nhấn mạnh việc cần thiết phải có an toàn và quy định trong việc phát triển trí tuệ nhân tạo.
Điểm chính
- Bài luận của Amodei nhấn mạnh sự hiểu biết hạn chế của các nhà nghiên cứu về các mô hình trí tuệ nhân tạo.
- Anthropic nhằm phát hiện các vấn đề mô hình một cách đáng tin cậy vào năm 2027.
- Lo ngại về việc triển khai hệ thống trí tuệ nhân tạo mà không có khả năng giải thích rõ ràng.
- Sự tập trung của Anthropic vào khả năng giải thích cơ chế trình bày mục tiêu của công ty.
- Các bước đột phá gần đây trong việc theo dõi quá trình tư duy của trí tuệ nhân tạo được ghi nhận.
- Amodei đề xuất các khung pháp lý để đảm bảo an toàn và minh bạch.
- Anthropic ủng hộ sự hợp tác ngành công nghiệp để tiến xa hơn trong nghiên cứu khả năng giải thích.
Vì sao quan trọng
- Nỗ lực đạt được tính hiểu được đồng điệu với các cuộc thảo luận rộng lớn về an toàn của trí tuệ nhân tạo.
- Vào năm 2025, quy định về trí tuệ nhân tạo có thể phát triển với hướng dẫn an toàn mạnh mẽ hơn.
- Tầm quan trọng của việc tuân thủ các nguyên tắc đạo đức về trí tuệ nhân tạo trong các công ty công nghệ đang ngày càng tăng.
- Những thách thức trước đây với hiện tượng mê sảng trí tuệ nhân tạo là minh chứng cho việc vấn đề cần được giải quyết tiếp tục.
Tầm nhìn của Dario Amodei đưa ra một cách tiếp cận chủ động để nâng cao khả năng giải thích của trí tuệ nhân tạo, quan trọng để triển khai an toàn, tuân thủ các quy định và đảm bảo tác động tích cực của trí tuệ nhân tạo đối với xã hội và nền kinh tế.