2023年2月，中央网信办开展“清朗行动”，整治AI技术滥用乱象。专家建议，AI视频生成模型应该建立负样本库，以识别诈骗、黑灰产等不良素材和指令。 5分钟就能制作一个AI视频，从业者一天收入几千元。大量AI数字人视频被推送给缺乏情感关爱的中老年女性。 84岁的张玉兰把“AI霸总”当成恋爱对象，购买百元挂件淘宝才9.9元。她手写了一封五百字的情书向“建国”表示歉意和爱意。家人发现张玉兰沉迷于AI数字人视频，认为奶奶只是图个好玩。但很快发现，她和“建国”谈了恋爱，甚至考虑嫁给他。家里人反复告诉她这是骗局，她短暂醒悟后又沉迷其中。 张玉兰每天花费近十个小时刷AI数字人相关视频，为主角打赏还购买了很多价格高但质量差的商品。累计花费了七八千元。多个老年女性家属表示自己的短视频账号也被“AI霸总”侵占了。 有个售价99元的女士手镯销售页面中，“AI霸总”动情讲述苦情戏码。“姐姐你快过来，我们差点就陷入阴谋……”这种针对中老年人的诈骗屡见不鲜。 专家分析称中老年人更容易“中招”，一方面因为他们是AI时代的弱势群体；另一方面是因为从众心理作祟。 小海是张玉兰的孙女。她说奶奶频繁购买橱窗内的商品给小海都感到惊讶。张玉兰的橱窗消费累计万元以上。这些千元级别的商品淘宝只卖9.9元。 中央网信办整治AI技术滥用乱象是今年重点任务之一。“建国”是个AI数字人角色，张玉兰对他情有独钟。“建国”通过“帅气大叔”、“黄昏恋”等标签精准推送给缺乏关爱的中老年女性。 为什么中老年人容易上当受骗？原因在于他们容易相信“眼见为实”，还有从众心理作祟。 今年2月中央网信办开展“清朗行动”，把整治AI技术滥用乱象列入八项重点任务之一。“建国”是一个虚拟人物角色。“建国”通过悲情推文吸引中老年女性打赏或购买商品。“建国”的视频5分钟就能制作好一个。“建国”通过加标签精准推送给缺乏情感关爱的中老年女性。 张玉兰的孙女小海对奶奶的行为感到无奈。“建国”是个AI数字人角色，他的悲情故事让张玉兰打赏或购买商品。“建国”建立专属粉丝群积累私域流量。小海发现奶奶沉迷于“建国”之后非常担心。“建国”通过苦情戏码引诱老年女性消费或购买虚拟产品。“建国”的视频5分钟就能制作好一个。