Сгенерированные ИИ видео с «грустными мальчиками» используются для обмана пожилых людей в Китае
Вирусный тренд в Китае, использующий сгенерированных ИИ персонажей, рассказывающих трагические истории, применяется для манипуляции пожилыми зрителями с целью продажи им товаров по завышенным ценам.
Согласно отчету Khaosod Online, на китайских платформах коротких видео появилась тревожная тенденция с использованием персонажей, созданных искусственным интеллектом, известных как «Сяо Хай» (Маленький мальчик). Эти цифровые аватары, созданные так, чтобы выглядеть как мальчики в школьной форме с печальными выражениями лиц, используются для рассказов вымышленных историй о крайней нищете и лишениях.
В этих видео персонажи ИИ часто утверждают, что им не хватает денег на оплату обучения или еду, специально ориентируясь на пожилых зрителей, чтобы вызвать сочувствие. Повествование часто переходит к предложению о покупке товаров, таких как гречневые хлопья или растительное масло, чтобы «помочь» мальчику. Эти товары часто продаются по ценам, значительно превышающим рыночные. Последствия этих мошенничеств значительны: поступают сообщения о пожилых людях, которые настолько эмоционально вовлекались, что преодолевали большие расстояния, чтобы найти несуществующих детей.
Для жителей и путешественников в регионе это служит суровым напоминанием о сложности социальной инженерии на базе ИИ. Хотя эти конкретные мошенничества в настоящее время популярны в Китае, лежащая в их основе технология доступна по всему миру. Остается подтвердить, как платформы будут внедрять более строгую проверку или маркировку контента, чтобы ограничить распространение этих вводящих в заблуждение ИИ-персонажей. Зрителям рекомендуется проявлять осторожность при встрече с эмоционально заряженными призывами в социальных сетях, поскольку изображенные люди могут не существовать.
