Des vidéos de « petits garçons » générées par IA utilisées pour escroquer des personnes âgées en Chine

Selon un rapport de Khaosod Online, une tendance préoccupante a émergé sur les plateformes de vidéos courtes chinoises impliquant des personnages générés par intelligence artificielle connus sous le nom de « Xiao Hai » (Petit Garçon). Ces avatars numériques, conçus pour ressembler à de jeunes garçons en uniforme scolaire avec des expressions tristes, sont utilisés pour raconter des histoires fabriquées de pauvreté extrême et de difficultés.

Dans ces vidéos, les personnages IA prétendent souvent avoir du mal à payer leurs frais de scolarité ou leur nourriture, ciblant spécifiquement les téléspectateurs âgés pour susciter la sympathie. Le récit dévie fréquemment vers un argumentaire de vente, incitant les téléspectateurs à acheter des produits comme des céréales de sarrasin ou de l'huile de cuisine pour « aider » le garçon. Ces articles sont souvent vendus à des prix nettement supérieurs aux tarifs du marché. L'impact de ces escroqueries est important, avec des rapports faisant état de personnes âgées devenues si émotionnellement investies qu'elles ont parcouru de longues distances pour retrouver ces enfants inexistants.

Pour les résidents et les voyageurs dans la région, cela sert de rappel frappant de la sophistication de l'ingénierie sociale pilotée par l'IA. Bien que ces escroqueries spécifiques soient actuellement en vogue en Chine, la technologie sous-jacente est accessible mondialement. Il reste à confirmer comment les plateformes mettront en œuvre une vérification plus stricte ou un étiquetage du contenu pour freiner la propagation de ces personnages IA trompeurs. Il est conseillé aux téléspectateurs de faire preuve de prudence face aux sollicitations émotionnelles sur les réseaux sociaux, car les individus représentés pourraient ne pas exister.