Lưu trữ — US — techcrunch
Google ra mắt SynthID Detector hỗ trợ phát hiện nội dung AI không đạt chất lượng
Google đã giới thiệu công cụ SynthID Detector, một công cụ xác minh để nhận diện nội dung được tạo bởi trí tuệ nhân tạo qua nhiều định dạng truyền thông khác nhau, tại sự kiện Google I/O 2025. Điều này đến trong bối cảnh sự bùng nổ của các phương tiện truyền thông được tạo ra bằng trí tuệ nhân tạo, bao gồm việc tăng 550% trong số video deepfakes từ năm 2019 đến năm 2024. Mặc dù công cụ này hữu ích, nhưng nó chỉ phát hiện nội dung được tạo ra bằng công nghệ SynthID của Google và có những hạn chế, bao gồm khả năng tránh được.
Điểm chính
- Google ra mắt SynthID Detector tại sự kiện Google I/O 2025.
- Công cụ này nhận diện nội dung được tạo ra bằng trí tuệ nhân tạo trong hình ảnh, video, file âm thanh và văn bản.
- SynthID Detector sử dụng công nghệ watermarking, với hơn 10 tỷ tác phẩm truyền thông đã được đánh dấu nước từ năm 2023.
- Sự gia tăng mạnh mẽ của truyền thông được tạo ra bởi trí tuệ nhân tạo là đáng kể, với video deepfake tăng 550% từ năm 2019 đến năm 2024.
- Công cụ này chỉ giới hạn trong phạm vi quy định của Google về SynthID và không thể phát hiện nội dung từ các công cụ trí tuệ nhân tạo khác.
- Google đã nhận thức được rằng SynthID Detector có thể bị vượt qua, đặc biệt là với văn bản.
Vì sao quan trọng
- Xu hướng truyền thông do trí tuệ nhân tạo tạo ra lo ngại về thông tin sai lệch và sự tin cậy số hóa.
- Trong giai đoạn 2023-2025, nhiều công ty công nghệ, bao gồm Microsoft, Meta, và OpenAI, đều đang phát triển công nghệ đóng dấu nội dung của riêng mình, làm nổi bật sự chú trọng của ngành công nghiệp đang gia tăng về chống lại sự lừa dối liên quan đến trí tuệ nhân tạo.
- Sự tăng đáng kể trong công nghệ deepfake và việc sử dụng của nó là một ví dụ rõ ràng về sự cấp thiết của các công cụ như SynthID Detector.
Việc ra mắt Bộ phát hiện SynthID là một phản ứng kịp thời đối với sự tăng trưởng nổ của phương tiện truyền thông được tạo ra bởi trí tuệ nhân tạo, giải quyết nhu cầu cấp bách về công cụ đảm bảo tính xác thực của nội dung, mặc dù có một số hạn chế về khả năng phát hiện.