国家广电总局启动专项治理行动 重拳整治生成式人工智能内容乱象

近期,部分网络视频平台出现大量通过技术手段篡改经典文艺作品的违规内容,如历史人物与现代科幻元素强行嫁接、名著角色形象被恶意扭曲等。

此类内容不仅破坏原作艺术价值,更对青少年认知造成误导,引发社会广泛争议。

据监管部门监测,2025年上半年相关投诉量同比激增230%,暴露出新技术应用与内容监管之间的突出矛盾。

乱象滋生的根源在于三方面:一是技术工具普及降低了篡改门槛,部分创作者为追逐流量滥用自动化生成功能;二是平台算法推荐机制过度侧重点击率,变相鼓励“猎奇式创作”;三是现行法规对技术生成内容的版权界定尚存空白,违规成本较低。

数据显示,我国相关技术用户规模已突破5亿,但配套的伦理规范和法律约束未能同步跟进。

此类乱象已造成多重负面影响。

文化层面,经典作品被解构消解,严肃历史被娱乐化呈现;产业层面,原创者权益受损,优质内容在算法挤压下难以触达受众;社会层面,低俗化趋势可能加剧网络文化荒漠化。

中国传媒大学近期研究报告指出,过度依赖技术生成的快餐式内容,将使受众审美能力平均下降12%。

对此,广电总局采取“双轨并行”治理策略:短期通过专项清理行动下架违规内容2.1万条,封禁违规账号4800余个;长期将推动《网络视听内容生成技术应用规范》立法,要求平台建立“生成内容溯源系统”,并设立“经典作品改编白名单”。

主要视频平台已试点“人工审核+AI鉴伪”双机制,对历史、名著类内容实施分级管理。

行业专家认为,此次治理释放出明确信号:技术创新必须坚守文化安全底线。

随着区块链存证、数字水印等技术的应用,预计到2027年违规内容识别准确率将提升至98%。

但根本出路在于构建“技术向善”生态,需通过创作者教育、用户素养提升、平台责任强化形成治理合力。

清朗的网络文化空间离不开制度约束,也离不开价值共识。

对“AI魔改”乱象的治理,既要以法治手段及时止损,更要在规则、技术与商业机制上补齐短板,推动形成尊重版权、崇尚精品、鼓励创新的良性循环。

让技术在规范中发展、在正确导向下赋能,才能让更多真正有思想、有品质的文化产品被看见、被传播、被珍视。