Lưu trữ — US — techcrunch
Cựu trưởng bộ phận chính sách của OpenAI chỉ trích công ty vì 'xóa bỏ' lịch sử an toàn AI của mình
Miles Brundage, cựu chuyên gia chính sách tại OpenAI, đã chỉ trích công ty vì 'viết lại' lịch sử an toàn của trí tuệ nhân tạo, đặc biệt là chiến lược triển khai cho GPT-2. Ông lập luận rằng tài liệu gần đây của OpenAI đã biến tấu cách tiếp cận cẩn thận của họ trong quá trình phát hành GPT-2, nhằm ngăn chặn việc lạm dụng tiềm năng. Những lo ngại của ông nêu bật sự căng thẳng liên tục giữa sự tiến triển nhanh chóng của trí tuệ nhân tạo và an toàn mà OpenAI phải vượt qua.
Điểm chính
- Miles Brundage đã phê phán OpenAI trên mạng xã hội vì nói sai lịch sử về an toàn của trí tuệ nhân tạo.
- OpenAI đã công bố một tài liệu trình bày triết lý hiện tại về an toàn của trí tuệ nhân tạo, nhấn mạnh việc tiếp tục triển khai AGI.
- Brundage chỉ ra rằng OpenAI đã tiếp cận thận trọng khi phát hành GPT-2, điều này tương thích với triết lý hiện tại của họ.
- Mặc dù một số chuyên gia cảm thấy các cảnh báo về việc lạm dụng GPT-2 đã được phóng đại, Brundage luận điệu rằng sự thận trọng là hợp lý.
- Môi trường cạnh tranh của OpenAI đã tăng áp lực để sản phẩm được phát hành nhanh hơn, điều này có thể làm đe dọa đến an toàn.
Vì sao quan trọng
- Cuộc tranh luận về an toàn trí tuệ nhân tạo so với triển khai nhanh chóng phản ánh bối cảnh lịch sử của các công ty công nghệ ưu tiên thị phần hơn là an toàn.
- Lo ngại về việc sử dụng và an toàn của trí tuệ nhân tạo đang gia tăng trong bối cảnh cuộc đua AI đang diễn ra, trở nên căng thẳng hơn với sự xuất hiện của các đối thủ cạnh tranh như DeepSeek.
- Sự giải tán của nhóm sẵn sàng AGI của OpenAI và sự rời bỏ của các nhà nghiên cứu an toàn là dấu hiệu của những thách thức tổ chức trong việc cân bằng giữa sáng tạo và an toàn.
Phê bình của Brundage nhắc nhở rằng trong khi tiến bộ nhanh chóng của công nghệ AI có thể mang lại lợi ích ngắn hạn, nhưng không nên bỏ qua những hệ quả lâu dài đối với an toàn và triển khai đạo đức.