问题:数字虚拟人应用加速落地,治理需求同步上升。随着数字内容生产、在线服务、文旅展演、教育培训、商业营销等场景快速扩展,数字虚拟人凭借“拟人化交互”“低成本复制”“跨时空呈现”等特点进入公众视野。,一些场景中也暴露出身份混淆、误导传播、数据滥用、合成内容“以假乱真”、诱导沉迷等风险,对网络生态、消费者权益保护和公共利益带来挑战。如何在鼓励创新的同时守住安全底线、厘清各方责任,成为必须回应的现实课题。 原因:技术门槛降低叠加商业化扩张,风险沿链条外溢。生成合成、语音驱动、动作捕捉等能力持续迭代,使数字虚拟人的制作与调用更便捷,产业链从模型训练、素材采集、内容生成到传播分发相互衔接。若在数据来源、内容导向、账号与身份管理、传播审核等环节出现漏洞,风险就可能沿链条扩散并被放大,形成“制作—发布—传播—再加工”的循环。同时,部分平台和机构在追求流量与效率时,容易弱化标识提示、合规审查与应急处置,抬高公众辨识成本,削弱社会信任。 影响:规范文件有助于统一预期,推动产业由“快增长”转向“高质量”。征求意见稿提出,坚持社会主义核心价值观,遵守法律法规,维护国家安全和社会公共利益,尊重社会公德和伦理道德,营造良好网络生态环境,为数字虚拟人服务划定价值导向底线。同时,征求意见稿鼓励在各领域应用落地,在“智能向善”和安全可控前提下推进示范应用,完善服务生态体系;支持技术研发创新与产学研协同,健全技术标准体系并参与国际交流合作。整体而言,文件既回应产业对创新空间与示范场景的需求,也通过制度约束明确边界,减少无序竞争和“带风险上线”。 对策:以“标识+数据+风控+处置”形成可执行的治理闭环。一是强化显著标识,降低公众识别成本。征求意见稿提出,自服务开始,数字虚拟人服务提供者、服务使用者以及提供网络信息内容传播服务的服务提供者,应在数字虚拟人展示区域全程持续显示含有“数字人”字样的提示标识,并符合生成合成内容标识有关规定,以压实传播链条各方责任,减少“真假难辨”引发的误导与纠纷。二是严格数据合规,守住安全与合法来源底线。征求意见稿要求在特定目的和范围内开展数据处理活动,使用合法来源数据,落实数据安全保护责任,采取必要措施保障数据存储与传输安全,防止泄露或不当使用。三是完善风险监测预警与应急处置机制,提高治理及时性与精准度。征求意见稿提出建立安全风险监测、预警和应急处置、防沉迷提示等机制,健全内容导向管理制度;配备与经营规模相适应的技术能力和人员力量,采取技术手段与人工审核相结合,加强风险识别监测预警,记录并留存日志信息。四是明确违法违规处置要求,强化“发现即处置”。征求意见稿要求,对利用数字虚拟人从事违法活动的情形及时采取动态核验、警示、限制功能、终止服务等措施;发现重大风险的,应立即暂停或终止服务,注销数字虚拟人并消除影响。 前景:规则与创新并重,行业将加快走向标准化、责任化与国际协同。随着征求意见稿向社会公开征求意见,涉及的规则有望继续吸纳产业实践与公众关切,在可操作性、适配性与协同治理上持续完善。可以预期,下一阶段产业竞争将从“谁做得更快”转向“谁更合规、更安全、更可信”。行业组织自律、团体标准与行业准则建设将更关键,平台企业、内容生产者、技术提供方也将围绕标识管理、数据治理、内容审核与风险处置建立更成熟的流程体系。同时,积极参与国际规则交流合作,有助于推动技术出海与服务互认,在更高水平上实现安全与发展的动态平衡。
数字虚拟人治理是一面镜子,映照科技进步与社会责任的互动关系。管理办法的制定既为创新保留空间,也深入明确风险边界。如何在发展与约束之间取得平衡,将决定此新兴业态能否在更可控、更可信的轨道上持续成长,其探索也可能为全球数字治理提供有益参考。