Cảnh báo an toàn của Anthropic có thể đã phản tác dụng — Chính phủ ngừng hoạt động AI mạnh nhất của họ

핵심 정리

• 1

  Chính phủ Mỹ đã yêu cầu Anthropic tắt Claude Fable 5 và Claude Mythos 5 vì lý do an ninh quốc gia.

• 2

  Anthropic đã tuân thủ nhưng không đồng ý với lý do của chính phủ, tin rằng các mô hình của mình hoạt động một cách an toàn.

• 3

  Mythos 5 bị hạn chế vì khả năng tìm ra lỗ hổng phần mềm; nó đã được chia sẻ với một số tổ chức để bảo mật mạng.

• 4

  Fable 5 vừa mới ra mắt và được thiết kế với rào cản để đảm bảo an toàn trong các khu vực rủi ro cao, nhưng vẫn phải đối mặt với sự kiểm tra.

• 5

  Anthropic lập luận rằng chính phủ quá lo lắng về khả năng đào tạo thông tin của Fable 5, khá tương tự với khả năng của các mô hình khác như GPT-5.5.

• 6

  Quyết định này phản ánh sự căng thẳng rộng lớn trong ngành công nghiệp liên quan đến an toàn, triển khai và giám sát quy định về Trí tuệ Nhân tạo.