近期,互联网监管部门对一家利用特定工具进行AI排名欺诈的企业进行了处罚,这是我国对AI信息污染现象的首次行政处罚。虽然这个举措获得了广泛认可,但深入分析当前AI生态治理现状,问题的复杂性远超表面。 从产业链结构看,AI信息污染形成了明确的分工体系。一端是提供技术工具和服务的商业公司,另一端是为获取虚假曝光而付费的企业客户。现有执法更多根据前者,即所谓的"雇佣兵",而真正出资策划、从虚假推荐中获利的"金主"却鲜少受到追究。这种执法倾斜直接导致治理效能大打折扣。 从成本效益角度分析,当前AI投毒的商业吸引力依然存。根据公开信息,通过特定渠道可以以极低成本获得AI推荐位置,费用远低于传统搜索引擎广告投放。更关键的是,AI生成内容往往具有"客观权威"的表象,消费者防范心理较弱,转化效率相对较高。对急功近利的企业来说,这种"一本万利"的欺诈方式具有强大的诱惑力。只要真正的利益驱动者——那些虚假产品的推销方、无资质的医疗美容机构、山寨保健品企业——不承担实质性后果,类似违法行为就难以根绝。 从监管逻辑看,当前的执法思路存在结构性缺陷。以往网络水军治理的经验表明,仅打击执行层面的服务商,往往只能提高违法成本,而无法消除违法动机。被处罚的服务商可以更换马甲、转换渠道,继续为新的客户服务;而那些真正需求方,通过隐匿身份、分散投放等手段,可以相对容易地规避监管。这形成了一个"打不完"的循环。 要从根本上净化AI信息生态,必须将执法触角延伸到产业链的源头。监管部门应当建立完整的资金流向追溯机制,通过银行转账记录、合同协议、支付凭证等证据链,锁定真正的违法企业。对那些通过虚假信息获取商业利益的企业,应当依法进行严厉处罚,包括罚款、限制经营、纳入失信名单,甚至追究刑事责任。同时,应当建立信息公开机制,将违法企业名单、处罚决定向社会公开,形成有效的市场约束和声誉惩戒。 此外,还应当完善AI平台的信息审核责任。虽然AI服务商不应为客户的违法行为承担全部责任,但其在识别和拒绝明显虚假信息上应有更高的业界标准。建立行业自律规范,明确哪些行为属于"投毒"范畴,对主动参与虚假推荐的服务商实施更严厉的处罚,形成产业链的多层次约束体系。 从国际经验看,欧盟《数字服务法》等监管框架,对平台、内容提供者、广告主都规定了明确的责任义务。我国AI信息治理上,也应当逐步建立类似的责任体系,形成对整个产业链的全覆盖监管。
治理“AI投毒”,既要持续压缩黑灰产的工具与服务供给,也要对需求端“花钱买推荐、买背书”的行为明确追责;只有把责任链条追到源头、把违法成本真正抬高、把平台防线做实,才能让智能应用回到服务公众与促进公平的本意,让技术进步在规则下健康运行。