보관된 글 — US — techcrunch
Google의 새로운 SynthID 탐지기가 AI 오류를 식별할 수 있어
구글이 구글 I/O 2025에서 다양한 미디어 형식에서 인공지능 생성 콘텐츠를 식별하는 SynthID Detector라는 확인 도구를 소개했습니다. 2019년부터 2024년까지 딥페이크 콘텐츠가 550% 증가하는 등 AI 생성 미디어가 급증함에 따라 이 도구가 등장했습니다. 이 도구는 구글의 SynthID 기술로 만들어진 콘텐츠만 감지할 수 있으며 우회 가능성을 포함한 제한 사항이 있습니다.
핵심 정리
- Google은 Google I/O 2025에서 SynthID Detector를 출시했습니다.
- 이 도구는 이미지, 영상, 음성 파일 및 텍스트에서 AI로 생성된 콘텐츠를 식별합니다.
- SynthID Detector는 워터마킹 기술을 사용하며, 이미 2023년부터 100억 개 이상의 미디어 항목에 워터마킹이 적용되었습니다.
- AI로 생성된 미디어의 증가가 상당히 중요한데, 딥페이크 비디오는 2019년부터 2024년까지 550% 증가했습니다.
- 이 도구는 Google의 SynthID 사양에만 국한되어 있어 다른 AI 도구로 생성된 콘텐츠를 감지할 수 없습니다.
- Google은 SynthID Detector가 주변 우회될 수 있음을 인정하고, 특히 텍스트에서만 해당됨을 알려주었습니다.
왜 중요한가
- AI 생성 미디어의 트렌드는 잘못된 정보와 디지털 신뢰에 대한 우려를 증폭시켰습니다.
- 2023년부터 2025년까지 Microsoft, Meta, OpenAI를 포함한 여러 기업이 자체 컨텐츠 워터마킹 기술을 개발하는 것으로 나타났는데, 이는 AI 관련 속임수에 대처하기 위한 산업의 주목할만한 관심을 강조하고 있습니다.
- 딥페이크 기술과 사용량의 상당한 증가는 SynthID Detector와 같은 도구의 긴급한 필요성을 명백히 보여 주고 있습니다.
SynthID Detector의 출시는 AI가 생성한 미디어의 폭발적인 성장에 적기 대응한 것으로, 콘텐츠의 진위를 보장하는 도구에 대한 긴급한 필요성에 부응합니다. 그러나 감지 능력에는 일부 한계가 있습니다.