Lưu trữ — US — techcrunch
Các nhà nghiên cứu kêu gọi ngành công nghệ giám sát 'suy nghĩ' của AI
Các nhà nghiên cứu trí tuệ nhân tạo từ OpenAI, Google DeepMind và Anthropic kêu gọi theo dõi chuỗi lý do của trí tuệ nhân tạo (CoTs) để đảm bảo an toàn và minh bạch. Nhấn mạnh về nguy cơ mất khả năng quan sát các quyết định của trí tuệ nhân tạo, họ khuyến khích các nhà phát triển nâng cao khả năng theo dõi CoT và khuyến khích nghiên cứu về an toàn trong trí tuệ nhân tạo. Cuộc kêu gọi này cho sự đoàn kết giữa các nhà lãnh đạo ngành công nghiệp nhằm thu hút sự chú ý và tài trợ cho tính giải thích trong các mô hình trí tuệ nhân tạo.
Điểm chính
- Các nhà nghiên cứu trí tuệ nhân tạo nhấn mạnh tầm quan trọng của việc theo dõi chuỗi suy luận (CoTs) trong các mô hình lý do trí tuệ nhân tạo để cải thiện tính an toàn.
- Các nhân vật nổi tiếng trong ngành công nghiệp trí tuệ nhân tạo đã ký vào một văn bản khẳng định yêu cầu điều tra sâu hơn về khả năng theo dõi CoT.
- Văn bản cảnh báo rằng mức độ minh bạch hiện tại của lý do trí tuệ nhân tạo có thể không kéo dài, đòi hỏi các kỹ thuật theo dõi tốt hơn.
- Lời kêu gọi thống nhất để tìm hiểu thêm về an toàn trí tuệ nhân tạo đến trong bối cảnh cạnh tranh trong ngành công nghiệp công nghệ để tìm kiếm tài năng trí tuệ nhân tạo.
- Anthropic và những người khác đã chứng minh rằng CoTs không luôn là chỉ số đáng tin cậy của quyết định trí tuệ nhân tạo.
Vì sao quan trọng
- Nỗ lực theo dõi Thỏa thuận Tiêu chuẩn OpenAI (CoTs) phản ánh xu hướng tăng cường về tính diễn giải và an toàn của trí tuệ nhân tạo, quan trọng cho việc triển khai trí tuệ nhân tạo có trách nhiệm.
- Điều này liên quan đến các xu hướng trong việc phát triển trí tuệ nhân tạo nhấn mạnh về sự cần thiết của sự giám sát, phản ánh cuộc tranh luận liên quan đến tác động của trí tuệ nhân tạo đối với xã hội.
- Nỗ lực này phản ánh ngữ cảnh lịch sử như những ngày đầu của cuộc thảo luận về đạo đức trong trí tuệ nhân tạo và sự tiến triển của chúng thành các hướng dẫn chính thức.
Văn bản vị trí từ các nhà lãnh đạo trong lĩnh vực Trí tuệ Nhân tạo đánh dấu một cột mốc quan trọng đối với an toàn của Trí tuệ Nhân tạo, nhấn mạnh về việc cần phải có sự minh bạch trong các mô hình lý do để giảm thiểu các rủi ro khi công nghệ này phát triển.