Vídeos de 'meninos tristes' gerados por IA são usados para enganar idosos na China
Uma tendência viral na China envolvendo personagens gerados por IA que contam histórias trágicas está sendo usada para manipular espectadores idosos a comprar produtos superfaturados.
De acordo com um relatório do Khaosod Online, surgiu uma tendência preocupante nas plataformas chinesas de vídeos curtos envolvendo personagens gerados por inteligência artificial conhecidos como 'Xiao Hai' (Menino). Esses avatares digitais, projetados para parecer meninos em uniformes escolares com expressões tristes, são usados para narrar histórias fabricadas de extrema pobreza e dificuldades.
Nesses vídeos, os personagens de IA frequentemente afirmam estar lutando para pagar mensalidades escolares ou comida, visando especificamente espectadores idosos para despertar simpatia. A narrativa frequentemente muda para um argumento de venda, incentivando os espectadores a comprar produtos como cereais de trigo sarraceno ou óleo de cozinha para 'ajudar' o menino. Esses itens são frequentemente vendidos a preços significativamente mais altos do que as taxas de mercado padrão. O impacto desses golpes é significativo, com relatos de idosos que ficaram tão emocionalmente envolvidos que viajaram longas distâncias para encontrar as crianças inexistentes.
Para residentes e viajantes na região, isso serve como um lembrete contundente da sofisticação da engenharia social impulsionada por IA. Embora esses golpes específicos estejam atualmente em alta na China, a tecnologia subjacente é acessível globalmente. Resta confirmar como as plataformas implementarão uma verificação mais rigorosa ou rotulagem de conteúdo para conter a propagação desses personagens de IA enganosos. Aconselha-se aos espectadores que tenham cautela ao encontrar solicitações emocionalmente carregadas nas redes sociais, pois os indivíduos retratados podem não existir.
