EXPLORINEER
vi

Lưu trữ — US — techcrunch

Người đồng sáng lập OpenAI kêu gọi các phòng thí nghiệm AI thử nghiệm an toàn các mô hình đối thủ

OpenAI và Anthropic đã hợp tác trong việc kiểm tra an toàn chung cho các mô hình AI của họ, giữa cạnh tranh gay gắt. Đồng sáng lập Wojciech Zaremba nhấn mạnh về việc cần thiết có các tiêu chuẩn an toàn ngành công nghiệp khi AI bước vào giai đoạn quan trọng. Nghiên cứu đã phát hiện ra sự không nhất quán trong đáng tin cậy của phản ứng và đã đưa ra lo ngại về "khoác lác" của AI. Cả hai phòng lab đều lạc quan về các hợp tác trong tương lai mặc cho căng thẳng cạnh tranh.

Điểm chính

  • OpenAI và Anthropic tạm thời mở các mô hình trí tuệ nhân tạo của họ để thực hiện kiểm thử an toàn chung.
  • Sự hợp tác này nhằm mục đích xác định các điểm yếu trong việc đánh giá nội bộ của họ.
  • Nghiên cứu cho thấy rằng các mô hình của Anthropic tốt hơn trong việc từ chối câu trả lời không chắc chắn, trong khi mô hình của OpenAI có tỷ lệ tạo ra thông tin sai cao hơn.
  • Lo ngại về an toàn của trí tuệ nhân tạo gia tăng sau một vụ kiện liên quan ChatGPT đến một vụ việc bi kịch liên quan đến tự tử của một người dùng.
  • Cả Zaremba và Carlini của Anthropic ủng hộ việc thực hiện kiểm thử an toàn hợp tác hơn trong phát triển trí tuệ nhân tạo trong tương lai.

Vì sao quan trọng

  • Hợp tác này phản ánh một xu hướng ngày càng tăng trong ngành công nghệ cho các nỗ lực chung về an toàn trí tuệ nhân tạo, trở nên quan trọng hơn khi các mô hình trở nên ngày càng quan trọng đối với cuộc sống hàng ngày.
  • Sự tập trung vào kiểm tra an toàn phản ánh các lo ngại tiếp tục về tác động của trí tuệ nhân tạo đối với xã hội và vấn đề đạo đức, lặp lại các cuộc tranh luận lịch sử về trách nhiệm công nghệ.
  • vào năm 2025, các phòng thí nghiệm trí tuệ nhân tạo được dự kiến sẽ ưu tiên hợp tác để tăng cường sáng tạo và tuân thủ quy định, hình thành cảnh quan tương lai của phát triển trí tuệ nhân tạo.

Sự hợp tác giữa OpenAI và Anthropic đánh dấu một bước tiến quan trọng trong việc nâng cao tiêu chuẩn an toàn của trí tuệ nhân tạo, với việc minh họa sự cần thiết của những nỗ lực tập trung trong bối cảnh canh giữ về các ảnh hưởng xã hội của trí tuệ nhân tạo đang ngày càng gia tăng.