近期,演员王劲松因个人形象被非法用于商业广告而公开维权,引发社会广泛关注。
这一事件折射出当前人工智能技术应用中存在的突出问题。
从静态图片到动态视频,从简单拼接到深度合成,技术手段不断升级,但相应的法律规范与监管措施却明显滞后。
全国两会期间,多位代表委员就这一问题展开深入讨论。
全国人大代表、美的集团副总裁钟铮指出,2025年数字人直播场景大量涌现,其制作门槛降低导致滥用现象日益增多,暴露出身份虚假、内容失范、权益纠纷等一系列问题。
这些乱象若不及时治理,将严重扰乱市场秩序,损害用户权益,影响人工智能技术的社会信任度。
在电商领域,人工智能生成虚假图片的问题尤为突出。
全国政协委员、陕西省人民检察院副检察长高洁表示,部分商家利用技术手段制作虚假宣传图片,过度渲染商品效果,引发大量消费纠纷。
更有不法分子通过伪造商品瑕疵图实施恶意退款、诈骗等违法行为,给正规商家造成经济损失。
全国政协委员、奇安信集团董事长齐向东从技术发展角度分析认为,当前乱象本质上是技术红利与版权规则的碰撞。
技术快速迭代降低了内容创作门槛,但也为肆意篡改、盗用提供了便利。
长此以往,将严重打击原创积极性,损害整个行业的创新活力。
代表委员们指出,造成当前乱象的原因是多方面的。
首先,法律法规体系不够完善,现有规定对人工智能生成内容的认定标准、处置规则、处罚幅度缺乏明确界定,法律责任划分较为模糊,执法实践缺乏统一依据。
其次,监管技术手段相对滞后,虽然相关管理办法已经施行,但未按规定标识、擅自篡改标识等问题依然存在。
此外,监管部门、平台方、技术服务方之间数据不互通、职责不清晰,难以形成全链条治理合力。
针对这些问题,代表委员们提出了系统性治理建议。
高洁委员强调,电商平台应当承担起主体责任,健全虚假图片审核机制,对重点品类商品实行强化审核,接入权威检测技术工具。
同时要完善信用惩戒体系,将发布虚假图片、恶意索赔的商家及个人纳入信用黑名单,实施跨平台联合约束。
此外还应畅通消费者和正当商家的维权渠道,优化投诉处理流程,开展风险提示与辨别知识普及。
钟铮代表建议压实多方主体责任,明确商家、平台、技术工具提供方在内容审核、标识合规、权益保护等方面的义务。
要建立网信、广电、市场监管等部门间的常态化协同监管机制,统一规则,共享数据,联合执法,形成监管合力。
同时要畅通用户举报渠道,鼓励公众参与监督。
从技术层面看,代表委员们呼吁加大研发支持力度,推动科研机构与企业开展联合攻关,研发更加精准的识别检测技术。
只有技术手段与法律规范同步提升,才能有效遏制违法违规行为。
生成合成内容带来的，不只是新工具，更是对治理体系的一次现实检验。
让技术更好服务社会，需要把“能做什么”与“该怎么做”同步推进：以清晰规则划定边界，以平台尽责守住关口，以协同治理打通链条，以更高违法成本形成震慑。
唯有如此，才能在守护权益与鼓励创新之间取得更优平衡，让技术红利在可持续、可托付的秩序中释放更大价值。