Lưu trữ — US — techcrunch
OpenAI phát hành GPT-4.1 mà không có báo cáo an toàn
OpenAI đã phát hành GPT-4.1 mà không có bản báo cáo về an toàn, đi ngược lại với quy trình thông thường của họ. Mô hình được cho là hoạt động tốt trên các bài kiểm tra lập trình nhưng thiếu minh bạch về các nguy cơ tiềm ẩn, gây lo ngại cho cộng đồng nghiên cứu về an toàn và cựu nhân viên, đặc biệt là khi ngành công nghiệp đang có sự xu hướng hạ thấp tiêu chuẩn báo cáo.
Điểm chính
- OpenAI đã phát hành GPT-4.1, khẳng định rằng nó vượt trội so với một số mô hình hiện có, đặc biệt là trong các chỉ số lập trình.
- Mô hình được phát hành mà không có bản báo cáo an ninh tiêu chuẩn (thẻ hệ thống), mà đánh giá và mô tả về sự an toàn của các mô hình trí tuệ nhân tạo.
- OpenAI cho biết GPT-4.1 không phải là một mô hình hàng đầu và do đó không cần có thẻ hệ thống, gây ra sự phê phán.
- Sự thiếu báo cáo an toàn phản ánh một xu hướng rộng lớn trong các phòng thí nghiệm trí tuệ nhân tạo, bao gồm cả Google, thường trì hoãn hoặc giảm bớt tính minh bạch như vậy.
- Những lo ngại về các biện pháp an toàn tại OpenAI đã được nâng cao, bao gồm một bào cáo từ các cựu nhân viên chống lại công ty.
- Sức ép từ phía đối thủ được cho là đã đẩy OpenAI giảm tài nguyên cho việc kiểm thử an toàn, làm tăng thêm rủi ro.
- Các chuyên gia cho biết rằng việc thiếu báo cáo an toàn là đáng lo ngại đặc biệt khi mô hình có độ phức tạp cao.
- OpenAI đã phản đối những nỗ lực lập pháp để bắt buộc báo cáo an toàn, như SB 1047 của California.
Vì sao quan trọng
- Quyết định không công bố báo cáo an toàn phản ánh xu hướng giảm tính minh bạch trong ngành công nghiệp Trí tuệ Nhân tạo, đặc biệt là khi cạnh tranh ngày càng gay gắt.
- Các lo ngại về an toàn trong Trí tuệ Nhân tạo đã tăng cao trước các hội nghị sắp tới, như Hội nghị Hành động Trí tuệ Nhân tạo tại Paris vào năm 2025, tập trung vào trách nhiệm.
- Lịch sử cho thấy mô hình Trí tuệ Nhân tạo đã phải đối mặt với sự kiểm tra về các tư duy an toàn, được nhấn mạnh bởi những lời chỉ trích trước đó về OpenAI liên quan đến tính minh bạch.
- Cuộc tranh luận về việc báo cáo an toàn bắt buộc vẫn còn đang diễn ra, cho thấy sự chia rẽ trong ngành về tiêu chuẩn đạo đức và tuân thủ quy định.
Việc ra mắt GPT-4.1 mà không có báo cáo về an toàn minh họa sự thay đổi trong các thực hành minh bạch của OpenAI dưới sức ép cạnh tranh, gây ra lo ngại lớn về an toàn trong việc phát triển trí tuệ nhân tạo khi ngành công nghiệp đang tiến gần đến các cuộc thảo luận quy định quan trọng.