一、问题：公益影像被“换词变脸”，公众人物被迫“自证清白” 近期披露的一起案例显示，演员王劲松发现，自己多年前录制的禁毒公益视频被不法分子二次加工：画面仍是其身着警服、神情严肃的形象，声音也高度相似，但内容却被替换成推介所谓“投资项目”的话术。由于合成效果逼真，连其亲属起初也未察觉异常。王劲松本人确认后表示，视频中的言论并非其所说。 类似情况并不少见：公众人物影像被用于“理财推荐”“保健品推销”等场景时有发生。有人因误信“熟面孔”背书而遭遇资金损失；也有人购买劣质产品后将责任指向被冒用者，造成名誉受损、维权成本上升。 二、原因：低成本技术叠加黑灰产链条，精准投放放大欺骗性 多名业内人士指出，深度合成技术门槛持续降低，不法分子可利用公开素材快速“拼接”出具有迷惑性的影像与声音，并逐渐形成从素材搜集、模型训练、话术包装到账号矩阵运营的链条化作案模式。一些团伙跨平台、跨地域甚至跨境协作，账号被处置后迅速“换号重来”，形成“打地鼠”式对抗。 同时，部分内容分发机制在客观上放大了风险：不法内容常被包装成“权威解读”“内部渠道”，并集中投放给中老年用户。该群体对特定公众人物长期积累的信任更容易被利用，导致“看见熟人就信、听到熟声就转”的误判。 三、影响：财产损失之外，更伤及社会信任与公共安全 据公安机关反诈机构披露的数据，利用合成影像、合成声音实施的诈骗中，老年群体受害占比偏高，且单案损失不低。更需警惕的是，个别案件甚至出现冒用已故亲属声音索要费用等情形，突破传统诈骗底线，对家庭情感与社会伦理造成冲击。 对公众人物而言，被冒用不仅涉及名誉权、肖像权、声音权益等侵害，还可能引发“连带质疑”：在真假难辨的信息环境中，部分网民容易将受害者误解为“参与营销”甚至“自我炒作”，迫使当事人反复举证、澄清，消耗大量时间与精力。对平台与监管而言，若处置不及时，将深入削弱网络空间的信任基础，抬高治理成本。 四、对策：技术标识、平台担责、司法衔接与群体防护需并举 受访法律与治理人士认为，治理此类乱象应做到“源头可溯、过程可管、结果可追”。 ——强化合成内容显著标识与溯源。推动对合成影像、合成声音等内容设置不易被去除的标识信息，完善取证与溯源机制，为执法司法提供更稳定的证据链。 ——压实平台主体责任。针对反复出现的账号矩阵、异常投放、诱导交易链接等高风险特征，平台应提升识别与拦截能力，完善快速下架、封禁、联动预警等流程；对放任传播、处置不力造成损害的，依法依规追究相应责任。 ——加大打击与追赃挽损力度。对组织化、链条化黑灰产依法从严打击，强化跨地区协作与资金链追踪，提高打击效能与震慑力度。 ——补齐公众识骗“最后一公里”。多地已面向老年群体开设数字素养课程，教授核验账号、核对来源、谨慎转账等方法。专家建议，将反诈教育与社区服务、家庭关怀结合，形成“子女提醒+社区协助+银行劝阻+警方预警”的联动机制。 五、前景：以规则与技术双轮驱动，重建可信传播秩序 业内认为，合成生成技术本身是中性工具，关键在于边界与责任。随着治理规则逐步完善、司法实践不断积累，侵权与诈骗的违法成本有望提高。同时，面向公众的鉴伪工具、内容水印与检测技术也在迭代，将在一定程度上降低“以假乱真”的成功率。 但也应看到，对抗难以一劳永逸。合成效果持续提升、传播更快，要求治理体系不断升级：既要在立法监管、行业规范上形成更强约束，也要在社会层面提升数字素养与风险意识，逐步建立“可核验、可追责、可救济”的网络信任机制。
当技术进步与治理能力的赛跑进入新阶段，深度伪造现象提醒我们：科技创新需要与伦理和规则同步推进。在享受数字化便利的同时，只有完善法律框架、提升公众防范意识、压实平台责任，才能在虚实交织的传播环境中守住社会信任的基础。维护数字文明的健康发展，需要每个社会成员共同参与。