Lưu trữ — US — techcrunch
Cựu chủ tịch Y Combinator Geoff Ralston ra mắt quỹ AI 'an toàn' mới
Geoff Ralston, người từng giữ chức Chủ tịch của Y Combinator, đã ra mắt Quỹ Trí tuệ Nhân tạo An toàn (SAIF) nhằm đầu tư vào các startup tập trung vào việc cải thiện an toàn và triển khai có trách nhiệm của trí tuệ nhân tạo. Quỹ sẽ cung cấp chi phiếu trị giá $100,000 bằng mô hình đầu tư SAFE, ưu tiên cho các dự án giải quyết mối lo về an toàn của trí tuệ nhân tạo và tránh đầu tư vào lĩnh vực như vũ khí tự động.
Điểm chính
- Geoff Ralston đã khởi đầu Quỹ Trí Tuệ Nhân Tạo An Toàn (SAIF) để đầu tư vào an toàn trí tuệ nhân tạo.
- Quỹ sẽ tập trung vào các startup nâng cao an toàn, bảo mật và triển khai trí tuệ nhân tạo có trách nhiệm.
- Các khoản đầu tư sẽ sử dụng mô hình SAFE, với Ralston viết séc trị giá $100,000 tại mức giới hạn $10 triệu.
- Quỹ của Ralston đang tìm kiếm các dự án làm sáng tỏ quá trình ra quyết định trí tuệ nhân tạo, đảm bảo tuân thủ và bảo vệ quyền sở hữu trí tuệ.
- Ông sẽ không đầu tư vào vũ khí hoàn toàn tự động nhưng mở cửa cho 'hệ thống an toàn vũ khí'.
- Ralston nhắm tới việc tận dụng mạng lưới YC của mình để hướng dẫn và hỗ trợ các startup.
Vì sao quan trọng
- Sự xuất hiện của quỹ quản trị và an toàn trí tuệ nhân tạo phản ánh mối quan ngại toàn cầu về việc sử dụng trí tuệ nhân tạo một cách không đúng đắn
- Quỹ của Ralston phản ánh một xu hướng ngày càng tăng về phát triển trí tuệ nhân tạo đạo đức và xem xét về an toàn trong các ứng dụng trí tuệ nhân tạo vào năm 2025
- Sự tập trung vào trí tuệ nhân tạo an toàn tương phản với các xu hướng trong ngành công nghiệp quốc phòng nơi mà vũ khí trí tuệ nhân tạo ngày càng được tranh luận.
Việc thành lập quỹ SAIF bởi Ralston là điểm nhấn cho thấy sự dịch chuyển hấp dẫn trong cảnh đầu tư hướng đến việc đặt ưu tiên cho an toàn trí tuệ nhân tạo và triển khai công nghệ một cách có trách nhiệm, trước những lo ngại gia tăng về đạo đức và an toàn của trí tuệ nhân tạo.