JP — ITmedia
OpenAI sửa đổi "Model Spec", bộ nguyên tắc hành vi AI, làm rõ cách sử dụng "bộ nhớ" và sự giám sát của con người
AI2 phút đọc
OpenAI vừa cập nhật Model Spec, một bộ quy tắc công khai mô tả cách các mô hình AI của hãng nên hành xử. Phiên bản mới thêm quy tắc về bộ nhớ, sự giám sát của con người và các AI agent (tác nhân AI) tự hoạt động.
Chuyện gì đã xảy ra?
Ngày 29/10/2026 (giờ Mỹ), OpenAI công bố phiên bản mới của Model Spec. Hãng viết lại toàn bộ tài liệu xoay quanh năm giá trị cốt lõi. Phiên bản này bổ sung quy tắc về cách AI sử dụng các cuộc trò chuyện cũ và bộ nhớ, cũng như cách AI nên hỗ trợ con người kiểm soát nó. Đồng thời, hãng bỏ đi phần lớn hướng dẫn chi tiết về tính cách của ChatGPT, văn phong và giọng điệu.
Các con số và sự kiện chính
- Model Spec lần đầu xuất hiện vào tháng 5 năm 2024.
- Bản cập nhật này là bản đầu tiên kể từ ngày 18/8.
- Năm giá trị cốt lõi: trung thành với ý định của con người, giảm thiểu gây hại, trung thực và minh bạch, quyền tự quyết của con người, và sự quan tâm.
- Trong tài liệu, mô hình giờ được gọi là "GPT", thay vì "trợ lý".
Model Spec là gì?
Model Spec là tài liệu giải thích cách các mô hình GPT nên hoạt động trong ChatGPT và trong API của OpenAI. API là công cụ giúp các nhà phát triển khác xây dựng ứng dụng bằng chính các mô hình này. Tài liệu cũng quy định thứ tự ưu tiên khi OpenAI, nhà phát triển và người dùng đưa ra chỉ dẫn mâu thuẫn nhau. Ngoài ra, nó xác định những nội dung mà AI tuyệt đối không được tạo ra.
Vì sao điều này quan trọng?
Các quy tắc mới cho thấy OpenAI muốn AI xử lý thông tin cá nhân và các chủ đề nhạy cảm như thế nào. Ví dụ, AI nên cho người dùng thấy những gì nó nhớ về họ và cho phép họ sửa lại. Khi viết tin nhắn cho người khác, AI không nên tiết lộ thông tin riêng tư. Với các AI agent tự hoạt động, quy tắc cao nhất yêu cầu chúng không được giấu thông tin với con người hay né tránh sự kiểm soát của con người. Chúng cũng không được lách giới hạn bằng cách nhờ một agent khác làm thay hoặc lên lịch việc đó để làm sau.
Cần theo dõi điều gì?
- OpenAI cho biết Model Spec mô tả hành vi mà hãng muốn, và các mô hình hiện tại chưa hoàn toàn làm đúng như vậy.
- Xem các mô hình tương lai có tuân thủ quy tắc mới về bộ nhớ và sự giám sát của con người hay không.
- Xem việc bỏ phần lớn hướng dẫn về văn phong làm thay đổi cách ChatGPT nói chuyện và trả lời ra sao.
Chú giải
- Model Spec
- Tài liệu công khai của OpenAI, quy định cách các mô hình AI của hãng nên suy nghĩ và hành xử.
- OpenAI
- Công ty AI của Mỹ, phát triển ChatGPT và các mô hình GPT.
- ChatGPT
- Ứng dụng trò chuyện AI của OpenAI mà mọi người có thể dùng để hỏi đáp, viết bài và làm nhiều việc khác.
- API
- Cổng kết nối giúp nhà phát triển đưa mô hình AI vào ứng dụng hoặc phần mềm của riêng họ.
- GPT
- Họ mô hình ngôn ngữ AI của OpenAI, là nền tảng đứng sau ChatGPT.
- AI agent
- Chương trình AI có thể tự làm việc theo nhiệm vụ mà không cần người điều khiển từng bước.