Lưu trữ — US — techcrunch
Một năm sau, OpenAI vẫn chưa ra mắt công cụ nhân bản giọng nói.
Công cụ sao chép giọng nói của OpenAI, Voice Engine, được công bố vào tháng Ba năm nay vẫn đang trong giai đoạn xem trước hạn chế mà chưa có ngày ra mắt chính thức, phản ánh những lo ngại về việc sử dụng tiềm ẩn và sự chú ý từ cơ quan quản lý. Mặc dù có nhiều ứng dụng hứa hẹn trong lĩnh vực như điều trị nói và hỗ trợ khách hàng, sự trễ trung ấy đặt ra câu hỏi về cam kết của OpenAI đối với việc triển khai trí tuệ nhân tạo an toàn giữa sự quan sát tăng cường về việc lạm dụng sao chép giọng nói.
Điểm chính
- Trong tháng Ba năm 2023, OpenAI đã công bố Voice Engine, tuyên bố rằng nó có thể nhân bản giọng nói chỉ từ 15 giây âm thanh.
- Đến tháng Ba năm 2024, công cụ vẫn đang trong giai đoạn xem trước hạn chế mà không có quyền truy cập công khai.
- Sự trì hoãn này một phần là do lo ngại về việc sử dụng tiềm năng, đặc biệt là trong bối cảnh ngày càng gia tăng của việc lạm dụng công nghệ nhân bản giọng nói.
- OpenAI đã đang thử nghiệm Voice Engine với các đối tác đáng tin cậy để đảm bảo an toàn và hữu ích trước khi phát hành rộng rãi.
- Voice Engine bao gồm các biện pháp an toàn, bao gồm đó là đánh dấu nước và yêu cầu sự đồng ý rõ ràng từ các người nói ban đầu trước khi sử dụng.
- Mặc dù có nhiều ứng dụng khác nhau, bao gồm các lợi ích cho người khuyết tật, thời gian triển khai đã bị trì hoãn do lo ngại về tác động của công nghệ này đối với quyền riêng tư và an ninh.
Vì sao quan trọng
- Công nghệ sao chép giọng nói đã trở thành một vấn đề đáng lo ngại khi số vụ lừa đảo và video giả mạo tăng cao, đặc biệt là khi các giọng nói do trí tuệ nhân tạo tạo ra được xác định là một trong những hình thức lừa đảo phát triển nhanh nhất vào năm 2024.
- Sự trì hoãn trong việc ra mắt Voice Engine phản ánh một xu hướng rộng lớn trong ngành công nghiệp trí tuệ nhân tạo, nơi mà các công ty ưu tiên an toàn và xem xét đạo đức hơn là cạnh tranh thị trường.
- Sự e dè này giống như những kinh nghiệm trước đó với việc triển khai công nghệ, khi việc phát hành nhanh chóng dẫn đến những hệ luỵ đạo đức đáng kể, chẳng hạn như việc bắt đầu quy định trong thiết kế công nghệ.
Xem trước kéo dài của OpenAI Voice Engine cho thấy một cách tiếp cận cẩn trọng đối với sao chép giọng nói AI, cân nhắc giữa tiềm năng sáng tạo với những thách thức về an toàn và đạo đức cấp bách khi xã hội đối mặt với sự phức tạp của phương tiện tổng hợp.