Video di 'bambini tristi' generati dall'IA usati per truffare gli anziani in Cina
Una tendenza virale in Cina che coinvolge personaggi generati dall'IA che raccontano storie tragiche viene utilizzata per manipolare gli spettatori anziani affinché acquistino prodotti a prezzi gonfiati.
Secondo un rapporto di Khaosod Online, è emersa una tendenza preoccupante sulle piattaforme cinesi di video brevi che coinvolge personaggi generati dall'intelligenza artificiale noti come 'Xiao Hai' (Bambino). Questi avatar digitali, progettati per sembrare ragazzini in uniforme scolastica con espressioni tristi, vengono utilizzati per narrare storie inventate di estrema povertà e difficoltà.
In questi video, i personaggi IA affermano spesso di avere difficoltà a pagare le tasse scolastiche o il cibo, prendendo di mira specificamente gli spettatori anziani per suscitare simpatia. La narrazione si sposta spesso su un discorso di vendita, esortando gli spettatori ad acquistare prodotti come cereali di grano saraceno o olio da cucina per 'aiutare' il bambino. Questi articoli sono spesso venduti a prezzi significativamente più alti rispetto ai tassi di mercato standard. L'impatto di queste truffe è significativo, con segnalazioni di anziani che sono rimasti così coinvolti emotivamente da aver viaggiato per lunghe distanze per trovare i bambini inesistenti.
Per i residenti e i viaggiatori nella regione, questo funge da duro promemoria della sofisticazione dell'ingegneria sociale guidata dall'IA. Sebbene queste truffe specifiche siano attualmente di tendenza in Cina, la tecnologia sottostante è accessibile a livello globale. Resta da confermare come le piattaforme implementeranno una verifica più rigorosa o un'etichettatura dei contenuti per frenare la diffusione di questi personaggi IA ingannevoli. Si consiglia agli spettatori di prestare attenzione quando incontrano sollecitazioni cariche di emozioni sui social media, poiché gli individui rappresentati potrebbero non esistere.
