Lưu trữ — US — techcrunch
Mô hình AI mới nhất của OpenAI có biện pháp bảo vệ mới nhằm ngăn chặn rủi ro sinh học
OpenAI đã ra mắt một hệ thống an toàn mới để theo dõi các mô hình trí tuệ nhân tạo của mình, o3 và o4-mini, nhằm ngăn chúng cung cấp lời khuyên có hại về các mối đe dọa về sinh học và hóa học. Hệ thống được thiết kế để từ chối yêu cầu liên quan đến những rủi ro này và đã cho thấy khả năng chặn 98,7% các yêu cầu có nguy cơ. Tuy nhiên, vẫn có những lo ngại về các biện pháp an toàn và thực hành kiểm tra tổng thể của OpenAI.
Điểm chính
- OpenAI triển khai một hệ thống giám sát để ngăn các mô hình của mình cung cấp lời khuyên có hại liên quan đến rủi ro sinh học và hóa học.
- Hệ thống này tăng cường các biện pháp an toàn trong o3 và o4-mini, có khả năng tăng cường so với các mô hình trước đây.
- Kiểm tra nội bộ cho thấy tỷ lệ thành công là 98.7% trong việc chặn các gợi ý rủi ro.
- OpenAI công nhận cần có sự giám sát của con người vượt qua giám sát tự động.
- Có những lo ngại từ các nhà nghiên cứu bên ngoài về tính đủ độ của các ưu tiên an toàn và thời gian kiểm tra.
Vì sao quan trọng
- Năm 2025, an toàn trong lĩnh vực trí tuệ nhân tạo vẫn là một vấn đề đáng quan ngại do sự phát triển nhanh chóng và nguy cơ lạm dụng tiềm ẩn.
- Các vụ việc trước đây liên quan đến thông tin sai lệch được tạo ra bởi trí tuệ nhân tạo đã làm nổi bật nhu cầu về các biện pháp an toàn mạnh mẽ trong quá trình phát triển trí tuệ nhân tạo.
- Xu hướng áp dụng các hệ thống an toàn tự động trong các mô hình trí tuệ nhân tạo đang gia tăng để đáp ứng sự chú ý của công chúng và các cơ quan quản lý.
OpenAI đang thể hiện một cách tiến bộ với hệ thống giám sát mới của mình, phản ánh sự ưu tiên ngày càng tăng về an toàn trong lĩnh vực trí tuệ nhân tạo. Tuy nhiên, những phê bình tiếp tục cho thấy rằng sự cân bằng giữa sáng tạo và bảo mật vẫn là một thách thức trong việc phát triển trí tuệ nhân tạo.