Anthropic cấp cho tổ chức giám sát AI bên ngoài quyền truy cập “như nhân viên”

Chuyện gì đã xảy ra?

Anthropic cho phép METR, một tổ chức phi lợi nhuận, được tiếp cận gần như như nhân viên của công ty. METR đã đặt một nhóm làm việc ngay trong văn phòng của Anthropic. Nhóm này có thể dùng phần cứng và xem các hệ thống nội bộ. Đây là bước đầu tiên để thực hiện lời hứa tăng cường biện pháp an toàn của Anthropic.

Vì sao cần người kiểm tra từ bên ngoài?

Nhiều người lo rằng AI ngày càng mạnh có thể gây ra thiệt hại lớn, ví dụ cho kinh tế, an ninh mạng và xã hội. Vì vậy, các công ty AI đang đề xuất để người đánh giá độc lập vào kiểm tra bên trong. METR từng làm việc với nhiều công ty lớn như OpenAI, Anthropic, Google và Meta. CEO Dario Amodei đã đề xuất ý tưởng này vào tháng 9. Ông Sam Altman của OpenAI và ông Elon Musk của SpaceX cũng ủng hộ.

Các con số và sự kiện chính

• METR là một tổ chức phi lợi nhuận đã làm việc với nhiều công ty AI lớn.
• Đề xuất đưa người kiểm tra vào công ty được nêu ra vào tháng 9.
• OpenAI chưa công bố kế hoạch đưa người đánh giá vào công ty.
• Anthropic so sánh cách làm này với việc cơ quan giám sát ngân hàng cử nhân viên thường trú vào các ngân hàng lớn.

Vì sao chuyện này quan trọng?

Đây là một bước đi cụ thể để tăng niềm tin vào cách các công ty AI kiểm soát rủi ro. Tuy nhiên, một số người chỉ trích rằng người đánh giá có thể bị xung đột lợi ích, và cần có luật quản lý chặt hơn từ chính phủ. Anthropic cho biết không thể công khai mọi thông tin vì có thể giúp kẻ xấu hoặc đối thủ cạnh tranh.

Cần theo dõi điều gì?

• Liệu OpenAI có công bố kế hoạch đưa người đánh giá bên ngoài vào công ty hay không.
• Cách hoạt động cụ thể của nhóm METR tại Anthropic.
• Chính phủ có ban hành thêm quy định cho các công ty AI hay không.