Lưu trữ — US — techcrunch
Cảnh báo an toàn của Anthropic có thể đã phản tác dụng — Chính phủ ngừng hoạt động AI mạnh nhất của họ
Chính phủ Mỹ đã yêu cầu Anthropic ngưng truy cập vào những mô hình trí tuệ nhân tạo mạnh mẽ của mình, Claude Fable 5 và Mythos 5, do lo ngại về an ninh quốc gia. Anthropic, tỏ ra thất vọng với quyết định này, lập luận rằng chính phủ đã hiểu lầm về những rủi ro liên quan đến những mô hình này, bao gồm việc xác định các lỗ hổng phần mềm nghiêm trọng. Sự cố này đặt ra câu hỏi về an toàn của trí tuệ nhân tạo và sự quan sát cần thiết từ pháp luật trong cảnh quan công nghệ đang phát triển nhanh chóng.
Điểm chính
- Chính phủ Mỹ đã yêu cầu Anthropic tắt Claude Fable 5 và Claude Mythos 5 vì lý do an ninh quốc gia.
- Anthropic đã tuân thủ nhưng không đồng ý với lý do của chính phủ, tin rằng các mô hình của mình hoạt động một cách an toàn.
- Mythos 5 bị hạn chế vì khả năng tìm ra lỗ hổng phần mềm; nó đã được chia sẻ với một số tổ chức để bảo mật mạng.
- Fable 5 vừa mới ra mắt và được thiết kế với rào cản để đảm bảo an toàn trong các khu vực rủi ro cao, nhưng vẫn phải đối mặt với sự kiểm tra.
- Anthropic lập luận rằng chính phủ quá lo lắng về khả năng đào tạo thông tin của Fable 5, khá tương tự với khả năng của các mô hình khác như GPT-5.5.
- Quyết định này phản ánh sự căng thẳng rộng lớn trong ngành công nghiệp liên quan đến an toàn, triển khai và giám sát quy định về Trí tuệ Nhân tạo.
Vì sao quan trọng
- Tình huống này là minh chứng cho cuộc trò chuyện quốc gia về an toàn trí tuệ nhân tạo và sự cân bằng giữa sự tiến bộ công nghệ và quy định.
- Khi trí tuệ nhân tạo ngày càng được tích hợp vào cuộc sống hàng ngày và an ninh mạng, những tác động của những phát triển này có thể ảnh hưởng đến các quy định sắp tới về triển khai trí tuệ nhân tạo.
- Các sự cố trước đó như lo ngại về mô hình trí tuệ nhân tạo của Google và OpenAI đã tạo ra tiền lệ cho cách mà các chính phủ tiếp cận an toàn trí tuệ nhân tạo.
Việc Anthropic buộc phải tắt các mô hình AI tiên tiến của mình nhấn mạnh sự thách thức trong việc cân bằng giữa sự đổi mới và an toàn. Các lo ngại của chính phủ có thể phản ánh nhu cầu ngày càng tăng về hệ thống quy định nghiêm ngặt trong một bối cảnh AI ngày càng phức tạp.