问题——虚拟“情感陪伴”背后暗藏诱导消费与引流风险 春节前后，部分地区出现老年人对“AI数字人”短视频产生强烈情感依赖的案例。家属反映，老人日均刷看对应的内容时间长、频繁互动打赏，并情绪带动下购买价格偏高、质量参差的商品或虚拟服务。有的内容以“帅气大叔”“黄昏恋”“深情守护”等叙事为包装，通过连续剧情、苦情台词与“专属称呼”强化代入感，令部分老人误以为对方“在与自己对话”。更值得警惕的是，个别账号还通过添加社交联系方式、拉群、推送不明链接等方式引流，叠加信息安全与财产损失隐患。 原因——算法精准触达叠加低门槛生成，黑灰产借势扩张 一是情感需求缺口被营销化利用。部分老年群体在陪伴、社交与情绪支持上存在现实缺口，容易对“持续回应”“稳定陪伴”的内容产生依赖。二是“眼见为实”的信任机制在新技术场景中被放大。数字人形象与拟真声音增强了可信度，弱化了受众对“虚构脚本”“商业目的”的警惕。三是平台推荐与标签化运营形成精准触达。相关内容通过设定人群标签、强化互动诱导，使同类视频不断聚合推送，深入固化观看路径。四是制作传播门槛降低助推“批量化生产”。数字人视频制作成本下降、周期缩短，一些从业者以“情绪脚本+带货链接+私域沉淀”形成闭环，收益驱动下加速扩散。五是评论区“造势”与从众心理叠加。一些账号通过集中评论、话术引导营造“很多人都在买、都在信”的氛围，提升转化率，老年人更易受群体意见影响。 影响——既是消费纠纷，也是数字治理与社会关怀的综合课题 从个体层面看，过度沉迷与非理性消费可能造成经济损失、情绪波动及家庭矛盾，甚至诱发对现实社交的回避。对市场秩序而言，若以虚假人设、情绪操控诱导交易，易滑向“擦边营销”“套路售卖”，损害消费者权益。对网络生态而言，滥用数字人技术进行引流、售卖、发送不明链接，可能与诈骗、黑灰产链条发生耦合，增加平台治理压力。对社会层面而言，老年数字鸿沟在新技术形态下呈现新表现：不是“不会用”，而是“难以辨识、容易沉浸”，需要更系统的公共服务与风险教育支持。 对策——技术、平台、监管与家庭协同发力，形成闭环治理 其一，压实平台主体责任，完善内容识别与处置机制。对数字人生成内容应强化显著标识与来源提示，建立针对“情绪诱导带货”“虚构恋爱叙事引流”等场景的审核规则，提升对异常账号矩阵、集中投放、评论区异常“水军”行为的识别能力；对引流建群、外链跳转等高风险行为从严限制。其二，推动生成端“可防可控”。业内建议通过负样本库、风险指令拦截、敏感场景触发审核等方式，在模型与工具层面提升对诈骗、黑灰产用途的识别能力，减少有害内容“批量生成”。其三，强化监管执法与消费维权衔接。对涉嫌虚假宣传、诱导交易、销售质量问题产品等行为，应依法查处、公开曝光；对跨平台、跨地域经营主体，完善线索共享与协同处置，提高维权效率。其四，补上老年人数字素养与反诈教育的“适老化”短板。社区、养老服务机构可通过案例化、情景化宣传，帮助老年人掌握“识别数字人标识、不随意点击链接、不向陌生人转账”的基本规则；同时推动支付平台和电商环节设置更清晰的风险提示与适老化确认流程。其五，家庭陪伴与情感支持应同步跟进。对出现沉迷倾向的老人，宜以沟通疏导替代简单指责，通过共同观看、解释机制、设置使用时长与支付提醒等方式，帮助其逐步建立辨识能力与健康使用边界。 前景——在“清朗”整治框架下，治理将向精细化与制度化推进 今年以来，针对技术滥用的网络治理持续加强。随着相关专项行动深化，平台对数字人内容的标识、审核与治理规则有望进一步细化，监管对“情绪操控式营销”“私域引流链条”的打击也将更具针对性。可以预期，未来数字人技术仍将广泛应用于文旅、教育、公共服务等领域，关键在于建立清晰边界：既鼓励技术创新与合规应用，也对利用技术制造虚假人设、诱导交易、侵害权益的行为形成高压震慑，并通过标准规范、行业自律与公众教育，构建更安全透明的内容生态。
AI技术本身是中立工具，关键在于使用方式。当技术被用来误导弱势群体，这不仅是商业失范，也触及社会伦理底线。张玉兰为虚拟人物写情书的故事看似荒诞，却折射出数字时代中老年人面临的现实困境。要避免他们被技术伤害，需要监管、平台、技术与社会教育协同发力：在源头减少不良内容和高风险链路，在制度上完善保护与追责机制，在公众层面提升识别与防范能力。只有这样，AI才能更好服务社会，而不是被少数人用作牟利工具。这既是建设安全、可信数字生态的要求，也是对每位网络使用者基本权益的保护。