Lưu trữ — US — techcrunch
“OpenAI Files” thúc đẩy giám sát trong cuộc đua đạt được AGI
Giám đốc điều hành của OpenAI, Sam Altman, đã cảnh báo rằng việc phát triển Trí tuệ Nhân tạo Tổng cực thể (AGI) đang gần kề nhưng nhấn mạnh sự cần thiết của sự minh bạch và quản trị trong quá trình tạo ra nó. 'Tập tin OpenAI', do các tổ chức giám sát phi lợi nhuận tiếp tục ghi chú về các mối quan ngại về cách thức quản trị và an toàn của OpenAI, đồng thời yêu cầu công ty chịu trách nhiệm với hành động của mình giữa áp lực từ các nhà đầu tư để ưu tiên lợi nhuận. Sáng kiến này gợi ý về sự cần thiết của lãnh đạo đạo đức trong thời đại của Trí tuệ Nhân tạo.
Điểm chính
- Sam Altman cho rằng con người có thể còn vài năm nữa mới đối mặt với Trí tuệ nhân tạo tự chủ (AGI), đưa ra yêu cầu kiểm soát công khai cấp bách.
- Kho tài liệu 'OpenAI Files' bày tỏ lo ngại về quản trị, tính chính trực của lãnh đạo và văn hoá tổ chức tại OpenAI.
- Dự án ủng hộ lãnh đạo đạo đức và quản trị có trách nhiệm trong bối cảnh cuộc đua đến AGI diễn ra với tốc độ ngày càng tăng.
- Sức ép từ các nhà đầu tư đã khiến OpenAI phải thay đổi cấu trúc lợi nhuận và quy trình đánh giá an toàn.
- Các lo ngại bao gồm việc triển khai sản phẩm vội vã và sự xung đột tiềm ẩn trong lãnh đạo của OpenAI.
Vì sao quan trọng
- Việc đẩy mạnh sự minh bạch trong quản lý AI phản ánh các cuộc tranh luận liên quan đến đạo đức và quy định công nghệ đang diễn ra trên toàn cầu.
- Lịch sử cho thấy các công ty công nghệ thường ưu tiên sự phát triển hơn những xem xét đạo đức, dẫn đến sự phản đối của công chúng, ví dụ như vấn đề về quyền riêng tư của Facebook.
- Các xu hướng hiện tại trong lĩnh vực AI nhấn mạnh nhu cầu về các khung đạo đức trong bối cảnh sự tiến bộ nhanh chóng hướng tới AGI vào năm 2025.
Bộ "OpenAI Files" nhấn mạnh nhu cầu cấp bách về sự minh bạch và trách nhiệm khi xã hội ngày càng tiến gần tới Trí tuệ Nhân tạo tự học (AGI), đòi hỏi quản trị đạo đức để hướng dẫn công nghệ mạnh mẽ này vì lợi ích của nhân loại.