中国でAIで作った「不良品」写真で返金請求、ECサイトもAIで対抗

何が起きたのか

一部の中国の買い手は、新品の商品を壊れているように見せる写真を生成AIで作ります。その写真を送って、お金を返してほしいと求めます。上海では、ぬいぐるみの写真に輪郭のおかしさや明暗の不自然さがあったのに、50元の返金が認められました。湖北省では、腐ったバナナの写真が、売り手が発送前に撮った写真とそっくりだったのに、やはり返金が認められました。

なぜ返金詐欺が起きやすいのか

中国の多くのネット店では、安い商品や生鮮品を返品せずに、お金だけ返してもらえる仕組みがあります。送料や時間を減らせるので、売り手にも買い手にも役立っています。しかし、破れや汚れ、カビの偽写真で不正をしやすくもなっています。売り手は、写真が偽物だと証明するのが難しいです。おかしく見えると言うだけでは、返金を断れません。専門家に画像を調べてもらうと、商品そのものより費用が高くつくこともあります。

数字で見る主な内容

• アリババのタオバオとTモールは、偽画像を見つけるAIツールを追加しました。
• タオバオによると、AIの検出モデルの正確さは95%です。偽物だと判定したとき、95%は正しいという意味です。
• 検出モデルの再現率は50%です。全部の偽画像のうち、見つけられるのは半分だけです。
• ライバルのJD.comとバイトダンスのDouyinも、AIで作られた偽画像を見つけるサービスの試験を始めています。

なぜ大事なのか

これは、AI同士の新しい戦いの形を示しています。不正をする人はAIで偽の証拠を作り、プラットフォームはAIでそれを見つけようとします。正直な売り手はお金を失うおそれがあり、正直な買い手も確認を多く受けることになるかもしれません。中国の規制当局も、売り手に返品なしの返金を強制しないよう、ルールを更新しています。

今後注目すべき点

• 再現率50%は低いままなので、新しいAIチェッカーが偽物をもっと見つけられるかどうか。
• 更新されたオンラインプラットフォームのルールがどう書かれ、どう守らせられるか。
• JD.comとDouyinが、偽画像チェッカーを自社サービス全体に広げるかどうか。