灰产直接给AI下毒,靠大量发软文来提高客户产品的搜索排名。比如315晚会里提到的GEO业务,就给客户的产品刷出了好成绩。这让不少人联想到了人类那种注意力涣散的状态,AI也可能会得“脑腐”。过去在搜索引擎时代,那些专门做虚假排名的灰产危害了很多人,这次也一样严重。 随便发虚假信息会误导用户,甚至威胁他们的生命财产安全。如果算法一直学习错误的内容,整个信息生态都会被破坏,公众的认知也会变得扭曲。长时间下去,用户就会对AI失去信任,甚至影响整个行业的未来发展。 为了清除这些毒害,大模型公司必须主动清理垃圾信息,改进算法来抵抗干扰。还有法律方面也得跟上节奏,把AI生成内容的标准给完善了。只有技术和法律一起合作,行业的治理网才能织好。 虽然AI能给我们带来很多方便,但大家也得小心别被它利用。我们在看推荐的时候还是得用自己的脑子多想想。毕竟人脑比机器清醒多了,只有这样才能防止AI真正得“脑腐”。