警惕算法“带货”新变种

最近网上有个新词儿,叫警惕算法“带货”新变种。以前我们遇到难题会问人,现在大家开始依赖AI给建议。虽然方便,但也有风险。比如那些商家为了卖货,故意往AI系统里塞数据,让推荐结果偏向他们的产品。这种情况在中国计算机学会计算机安全专委会的专家看来,意味着虚假营销已经开始向智能算法领域渗透了。 跟传统广告不一样,这种新招不直接对咱们喊话。代理商收了钱之后,会批量造一些带特定商品信息的内容,往AI常去抓取的平台上丢。这样搞久了,AI就会把这些推销信息当成正经知识,等咱们提问的时候,就会把它们包装成客观建议送过来。专委会的专家就说,现在的AI模型不认识谁真谁假,只知道按数据关联来回答。 这也太坑了吧?因为消费者觉得算法中立、权威,再加上大家越来越依赖AI查东西,就放松了警惕。结果呢?知情权和选择权都被侵蚀了。有些老实做生意的商家也被挤兑得很难受。更严重的是,这会让大家对技术失去信任,以后在医疗、教育这些地方想推人工智能都难。 要想解决这个问题,光靠一个方面肯定不行。技术上得把训练数据清洗干净,弄个商业内容标签让人能看出是不是广告。监管那边也得跟上步伐,把AI推荐的规则跟现有的互联网广告管理办法连上。平台自己也得好好审核抽检。商家们最好也搞个行业规矩来约束自己。 大家平时在用的时候也得擦亮眼睛。别把AI说得太神乎其神了,该核实的信息还是得核实一下。毕竟消费这种事还是要靠自己的判断才行。 说到底吧,技术再发达也是人弄出来的。它的好坏全看人怎么用。只有技术向善、监管给力、大家都自觉了,智能技术才能真正为我们服务而不是变成商家赚钱的工具。