Lưu trữ — US — techcrunch
Anthropic ra mắt người đánh giá nhúng đầu tiên với Accenture?
Công ty Anthropic hợp tác với Accenture để nhúng các chuyên viên đánh giá an toàn vào các phòng thí nghiệm trí tuệ nhân tạo, tập trung vào việc kiểm tra mô hình và đánh giá an toàn. Trong vòng năm năm tới, họ dự định đầu tư 1 tỷ đô la, với sự phản ứng đa dạng từ các nhà quan sát ngành công nghiệp. Các nhà phê bình cảnh báo về việc tự kiểm soát nhưng Anthropic khẳng định sự tăng cường trách nhiệm thông qua sáng kiến này.
Điểm chính
- Anthropic hợp tác với phân vùng công nghệ của Accenture (Faculty) để đánh giá mô hình trí tuệ nhân tạo.
- Accenture sẽ triển khai nhân viên tại Anthropic để kiểm tra mô hình trí tuệ nhân tạo và đánh giá sự an toàn.
- Họ dự định đầu tư 1 tỷ đô la trong vòng năm năm, thể hiện cam kết đáng kể đối với an toàn trí tuệ nhân tạo.
- Sau thông báo này, cổ phiếu của Accenture tăng 8%, cho thấy sự tự tin và ngạc nhiên của thị trường.
- Các nhà phê bình bày tỏ lo ngại về tự kiểm duyệt trong trí tuệ nhân tạo, lo lắng về việc giảm trách nhiệm.
- Anthropic cho biết những người đánh giá tăng cường khả năng xác minh tính an toàn, giữ trách nhiệm cuối cùng.
Vì sao quan trọng
- Phản ánh xu hướng rộng lớn về an toàn và trách nhiệm của trí tuệ nhân tạo, đặc biệt sau làn sóng liên quan đến ChatGPT.
- Bàn về người đánh giá nhúng, một xu hướng phát triển nhằm đảm bảo an toàn của trí tuệ nhân tạo giữa những lo ngại gia tăng.
- Phù hợp với các xu hướng công nghệ thông tin vào năm 2025 tập trung vào quản lý Trí tuệ nhân tạo có trách nhiệm và minh bạch.
Việc hợp tác này đánh dấu một bước tiến tích cực trong an toàn trí tuệ nhân tạo, mặc dù có sự hoài nghi; nó minh họa một cảnh quan đang phát triển trong đó tự đánh giá và trách nhiệm vẫn cần thiết khi ngành công nghiệp phát triển.