Anthropic đang phát triển hệ thống chứng minh danh tính của các mô hình AI

Chuyện gì đã xảy ra?

Anthropic công bố trong một bài blog hôm thứ Ba rằng họ đang làm việc với FlashProve. Đây là công cụ dùng "chứng minh bằng mật mã" để xác nhận một kết quả do đúng mô hình AI nào tạo ra. Hãy hình dung nó giống chữ ký trong email. Nhờ chữ ký, người nhận biết thư đúng là của người gửi. FlashProve cũng được thiết kế để chống lại kẻ giả mạo, kể cả khi chính công ty làm ra mô hình đó muốn đánh lừa người dùng.

Các con số và sự kiện chính

• Bài blog được đăng vào thứ Ba.
• Hệ thống yêu cầu các hãng AI công bố một "dấu vân tay" cho mỗi mô hình họ phát hành.
• Dấu vân tay không để lộ "trọng số", tức là các con số bên trong quyết định cách mô hình hoạt động.
• Hệ thống được thiết kế đủ nhẹ để kiểm tra ngay trên thiết bị cá nhân.
• Mã nguồn và đặc tả kỹ thuật được đưa lên GitHub theo giấy phép mã nguồn mở.

Vì sao cần chuyện này?

Hiện nay, nhiều người dùng không biết chắc mình đang dùng mô hình AI nào. Một công ty có thể âm thầm đổi sang mô hình rẻ hơn để tiết kiệm tiền. Họ cũng có thể đổi sang mô hình đắt hơn để kết quả thử nghiệm trông tốt hơn. Các bên thứ ba cũng khó kiểm chứng khi ai đó nói rằng một việc đã được một mô hình AI tiên tiến xử lý.

Vì sao điều này quan trọng?

Nếu hệ thống này hoạt động tốt, người dùng sẽ có cách kiểm tra độc lập thay vì chỉ tin lời công ty. Điều này giúp tăng niềm tin vào AI. Quan trọng hơn, các hãng vẫn giữ được bí mật về mô hình của mình, nên hệ thống có thể dùng cho cả các mô hình thương mại.

Cần theo dõi điều gì?

• Nghiên cứu vẫn đang tiếp tục. Anthropic nói đây chỉ là tiến độ tạm thời, chưa phải kế hoạch hoàn chỉnh.
• Anthropic chưa có kế hoạch đưa hệ thống này vào sử dụng tại chính công ty mình hay bất kỳ hãng nào khác.
• Anthropic mong các nhóm khác xem xét, sử dụng và cải tiến mã nguồn của họ.