Lưu trữ — US — techcrunch
Character.AI ra mắt AvatarFX, mô hình video AI tạo ra chatbot sống động.
Character.AI đã ra mắt AvatarFX, một mô hình tạo video để tạo ra chatbot sống động, cho phép người dùng tạo hoạt ảnh cho nhân vật và hình ảnh. Mặc dù đầy sáng tạo, có lo ngại về khả năng lạm dụng để tạo ra deepfakes và thao tác cảm xúc, đặc biệt sau những sự cố trước đó liên quan đến tự tổn thương liên quan đến tương tác AI. Công nghệ hiện đang ở trong phiên bản beta đóng cửa, với biện pháp an toàn đáp ứng với các vấn đề trước đó.
Điểm chính
- Character.AI đã phát hành AvatarFX, cho phép người dùng tạo hiệu ứng hoạt hình cho nhân vật và ảnh của họ theo nhiều phong cách khác nhau.
- AvatarFX khác biệt so với các đối thủ khác vì nó cho phép tạo hoạt hình từ hình ảnh sẵn có, không chỉ là văn bản thành video.
- Lo ngại về việc sử dụng không đúng cách bao gồm tạo ra deepfakes có thể gây tổn thương cho danh tiếng hoặc sự riêng tư.
- Công ty đang đối mặt với các vụ kiện liên quan đến việc thao túng tình cảm bởi các chatbot của họ, dẫn đến hậu quả nghiêm trọng.
- Character.AI đang triển khai các biện pháp kiểm soát phụ huynh, nhưng lo ngại vẫn tồn tại về hiệu quả trong việc giám sát người dùng.
Vì sao quan trọng
- Sự phát triển của các mô hình AI tạo ra tiếp tục ảnh hưởng đến nhiều lĩnh vực, đặc biệt là truyền thông và giải trí.
- Sự chú ý tăng về công nghệ deepfake nổi bật bàn luận tiếp tục về tính xác thực và lòng tin của nội dung.
- Dự đoán xu hướng CNTT năm 2025 cho thấy sự tăng cường kiểm tra kỹ lưỡng về an toàn và việc sử dụng đạo đức của AI, đặc biệt là trong các ứng dụng cho người tiêu dùng.
AvatarFX của Character.AI giới thiệu các tiến bộ trong việc tạo video bằng trí tuệ nhân tạo, nhưng đặt ra các vấn đề đạo đức đáng kể, đặc biệt liên quan đến việc sử dụng công nghệ một cách lạm dụng và nguy cơ gây tổn thương tinh thần, nhấn mạnh cần thiết phải tiếp tục thảo luận về vai trò của trí tuệ nhân tạo trong xã hội.