Lưu trữ — US — techcrunch
OpenAI có thể 'điều chỉnh' biện pháp bảo vệ nếu đối thủ phát hành AI 'rủi ro cao'
OpenAI đang sửa đổi Khung Các biện pháp Sẵn sàng của mình để có thể điều chỉnh yêu cầu an toàn nếu một đối thủ phát hành một AI 'cao rủi ro' mà không có đủ biện pháp bảo vệ. Quyết định này phản ánh áp lực cạnh tranh để thúc đẩy phát triển trí tuệ nhân tạo. Mặc dù bị cáo buộc là đang giảm tiêu chuẩn để phát hành nhanh hơn, OpenAI khẳng định bất kỳ điều chỉnh nào sẽ ưu tiên an toàn, sử dụng các đánh giá tự động hơn mà vẫn yêu cầu sự giám sát của con người.
Điểm chính
- OpenAI đã cập nhật Khung sẵn sàng của mình để nâng cao an toàn trí tuệ nhân tạo giữa áp lực cạnh tranh.
- Công ty có thể giảm các biện pháp bảo vệ nếu các đối thủ phát hành các hệ thống trí tuệ nhân tạo nguy hiểm mà không có sự bảo vệ đủ, đồng thời đảm bảo rằng tổng mức độ rủi ro không tăng cao.
- Các đánh giá tự động sẽ giúp tăng tốc quá trình phát triển, nhưng đang có lo ngại về việc giảm thời gian thử nghiệm và nghi ngờ về việc đánh đổi về mặt an toàn.
- Các cáo buộc gần đây gợi ra rằng OpenAI đã dời khỏi việc thử nghiệm bằng con người một cách chắc chắn, gây ra sự phê phán từ các cựu nhân viên và cơ quan quản lý.
- Khung sẵn sàng mới phân biệt giữa các mô hình có khả năng 'cao' và 'cực kỳ cần thiết', mỗi loại có các biện pháp bảo vệ riêng.
Vì sao quan trọng
- Chuyển đổi trong chính sách an toàn của OpenAI phù hợp với xu hướng chung của việc triển khai trí tuệ nhân tạo nhanh chóng được thấy trong ngành công nghệ, tạo ra lo ngại về giám sát quy định.
- Trong những năm trước, các công ty công nghệ đã phải đối mặt với phản ứng phản đối về việc ưu tiên tốc độ hơn là an toàn, dẫn đến yêu cầu có nhiều quy định chặt chẽ hơn.
- Sự gia tăng trong việc sử dụng các đánh giá tự động phản ánh một sự chuyển đổi trong các chiến lược phát triển công nghệ, phù hợp với sự tập trung vào hiệu suất và khả năng mở rộng trong triển khai trí tuệ nhân tạo vào năm 2025.
Việc điều chỉnh framework của OpenAI nhấn mạnh sự căng thẳng giữa sự phát triển nhanh chóng của trí tuệ nhân tạo và các biện pháp an toàn cần thiết. Áp lực từ công nghiệp đang tăng lên, việc cân bằng giữa sự đổi mới và trách nhiệm để ngăn chặn các rủi ro nghiêm trọng vẫn rất quan trọng đối với các công ty.