중국서 AI로 불량품 사진 만들어 환불...쇼핑몰도 AI로 맞대응

무슨 일이 일어났나

중국 온라인 쇼핑몰에서 생성형 AI로 만든 가짜 사진을 이용한 환불 사기가 늘고 있습니다. 상품은 멀쩡한데, 찢어지거나 더러워진 것처럼 사진을 바꿔 환불을 요구하는 방식입니다. 이에 맞서 쇼핑몰도 AI로 사진의 조작 여부를 가려내기 시작했습니다.

주요 사례와 수치

• 상하이 장난감 가게: 봉제인형 오염 사진에서 부자연스러운 윤곽과 빛·그림자 모순이 발견됐지만 50위안 환불이 승인됐습니다.
• 후베이성 신선식품 가게: 32위안짜리 바나나가 썩었다는 사진이 가게가 발송 전에 찍은 사진과 배경과 배치가 완전히 같았는데도 환불됐습니다.
• 타오바오 AI 탐지 모델: 정확률 95%, 재현율 50%입니다. 가짜라고 판정한 것 중 95%는 실제 가짜이지만, 전체 가짜 중 50%만 찾아낸다는 뜻입니다.

왜 이런 일이 생겼나

중국에서는 저가 상품이나 신선식품을 반품하지 않고 돈만 돌려주는 제도가 있습니다. 반송 비용과 시간을 아낄 수 있어 좋은 제도지만, 사진만 보고 환불하는 점을 노린 사기가 생겼습니다. 판매자는 사진이 가짜라고 의심해도 증명하기가 어렵습니다. 전문 감정 비용이 상품 값보다 비쌀 수 있기 때문입니다.

왜 중요한가

AI가 가짜를 만들고, 다른 AI가 이를 찾아내는 싸움이 시작됐다는 뜻입니다. 정직한 판매자와 소비자 모두에게 영향을 주는 문제입니다. 중국 정부도 플랫폼이 판매자에게 반품 없는 환불 책임을 억지로 떠넘기지 못하도록 규칙을 고치고 있습니다.

앞으로 지켜볼 점

• 징둥과 더우인도 생성형 AI 가짜 이미지 판별 서비스를 시험 운영하고 있어 결과가 주목됩니다.
• AI 탐지 정확도가 높아져 놓치는 가짜 사진이 줄어들지 지켜볼 필요가 있습니다.
• 정부의 플랫폼 규칙 개정이 실제로 판매자 권익을 지키는지 살펴봐야 합니다.