2026年1月1日起,国家广播电视总局在全国范围内启动为期一个月的"AI魔改"视频专项治理行动。
此举旨在规范人工智能生成内容传播秩序,遏制利用新技术手段恶意篡改经典作品、歪曲历史人物形象等乱象。
作为国内主要互联网内容平台,百度迅速响应监管要求,采取系统性治理措施,阶段性成果初步显现。
当前,部分内容创作者利用生成式人工智能技术门槛降低的便利,对经典文艺作品、历史人物形象、军警职业形象等进行不当改编。
这类行为不仅违背原作精神内涵,更可能造成价值观误导,特别是对判断力尚未成熟的青少年群体构成潜在影响。
从平台查处的典型案例看,违规内容主要集中在三个方面:一是对军人等特定职业形象进行低俗化演绎,损害职业尊严;二是对经典文学影视作品中的人物进行偏离原著的改编,消解文化经典价值;三是对历史人物形象进行不当重构,可能造成历史认知偏差。
针对上述问题,百度构建了涵盖技术识别、人工审核、源头管控的三级防控机制。
在技术层面,平台开发图像视频与文本协同识别系统,通过提取军警制服、经典角色等核心视觉要素,结合生成类内容特有的画面特征进行比对分析,实现对显性违规内容的快速拦截。
在内容生产环节,平台专门建设涉政防控模型,通过语义识别和意图预判技术,在用户输入指令阶段即进行风险评估,从源头抑制不当内容生成。
在管理层面,平台严格落实生成式人工智能服务管理要求,对平台内容加注标识,提升内容可追溯性,便于监管部门和公众监督。
本次专项行动中,百度累计巡查清理违规视频284条,关闭违规账号2个。
从处理的典型案例看,违规内容创作者多采用生成式技术对既有素材进行二次加工,通过配音、画面合成等手段改变原有作品表达。
例如,有账号利用技术手段对经典名著《西游记》人物进行娱乐化改编,偏离原著人物设定和思想内涵;有账号对历史人物关羽形象进行不当演绎,可能误导受众对历史的认知。
这些案例暴露出部分创作者在追求流量过程中,忽视了对经典文化的尊重和对社会责任的担当。
技术发展为内容创作提供了新工具,但技术本身并无价值取向,关键在于使用者的目的和平台的管理。
生成式人工智能技术降低了内容制作门槛,使更多人能够参与创作,这本是技术进步的应有之义。
但当技术被滥用于消解经典、扭曲历史、低俗演绎时,就偏离了创新的正轨。
平台作为内容传播的关键节点,既要保护合理的创作自由,也要守住价值底线,这是履行社会责任的必然要求。
从长远看,治理"AI魔改"乱象需要监管部门、平台企业、内容创作者形成合力。
监管层面,应持续完善生成式人工智能内容管理规范,明确技术应用边界;平台层面,需不断优化识别技术,提升治理效能,同时加强对创作者的规则引导;创作者层面,应树立正确价值导向,将技术创新与文化传承、社会责任相结合。
“AI魔改”并非简单的创作趣味问题，而是牵涉价值导向、版权秩序与社会认知的综合治理课题。
专项治理的意义不仅在于清理一批违规内容，更在于通过制度与技术的双轮驱动，推动形成清晰规则与长期机制。
守住底线、厘清边界、压实责任，才能让技术进步真正服务于优质内容生产与公共文化建设，为青少年健康成长营造更可信、更清朗的网络空间。