L’IA générative démocratise la fraude dans le commerce électronique, les fraudeurs utilisant de plus en plus d’images générées par l’IA pour obtenir le remboursement d’articles qu’ils ne retournent jamais. Selon Filaireles plateformes d’achat en ligne, qui s’appuient depuis longtemps sur les photos soumises par les clients pour valider les demandes de remboursement, ont du mal à faire la distinction entre les réclamations pour dommages réelles et fabriquées.
Le problème est devenu particulièrement aigu sur les plateformes de médias sociaux chinoises comme Note rouge et Douyin. Wired met en lumière un cas récent impliquant un marchand de crabes nommé Gao Jing, qui a reçu une demande de remboursement accompagnée d’une vidéo de crabes « morts ». La fraude a été révélée lorsque le vendeur a remarqué des incohérences biologiques dans les images : les crabes avaient un nombre de pattes incorrect et le sexe des crabes changeait entre les clips. L’enquête policière a confirmé que la vidéo avait été générée par l’IA, ce qui a conduit à la détention de l’acheteur.
Le problème s’étend au-delà des escrocs individuels. Michael Reitblat, PDG d’une société de détection de fraude Fortera déclaré à Wired que les demandes de remboursement truquées par l’IA ont augmenté de plus de 15% à l’échelle mondiale depuis le début de l’année. Les groupes du crime organisé utiliseraient ces outils pour automatiser la fraude à grande échelle, en utilisant des adresses IP alternées pour inonder les détaillants de fausses déclarations concernant des articles ménagers « endommagés ». Même si certains commerçants déploient leurs propres outils d’IA pour détecter les images falsifiées, la technologie reste imparfaite, obligeant les détaillants à envisager des politiques de retour plus strictes qui pourraient gêner les acheteurs honnêtes.
Dans un développement plus léger du même rapport, Wired note le succès viral de « Yichang Beer ». Malgré son image de marque comportant des caractères chinois et des images de dragons, la bière est en réalité brassée en Kazakhstan et a été initialement vendu sur les marchés russophones. L’étiquette du produit indique qu’il est brassé depuis 1858, soit des décennies avant l’introduction de la bière en Chine. Ironiquement, après être devenue virale sur les réseaux sociaux chinois pour son « faux » héritage, la bière est désormais importée et vendue dans la véritable ville de Yichang.
