问题—— 近日——霍启刚社交平台发文称——有人擅自提取其肖像和声音，利用“深度合成”技术生成短视频，并在多个账号传播；霍启刚表示，部分视频所呈现的观点立场并非其本人表达，同事观看一段时间后才发现是合成内容，存在以假乱真、误导受众的风险。 除虚假视频外，他还提到，有账号将其过往关于香港情况的公开表述进行剪辑加工，用于推介所谓“香港移民渠道”等信息，担心误导公众上当并造成财产损失。此外，他曾在内地出行时发现其肖像出现在某品牌门店门面，但与该品牌并无合作关系，显示侵权已从线上蔓延到线下商业展示。 原因—— 业内人士指出，近年来人工智能生成与“深度合成”技术门槛持续降低，素材获取、语音克隆、视频合成等工具更易被普通用户掌握；同时，一些账号追逐流量和变现，“盗脸盗声”现象随之增多。 一上，名人公开影像、访谈片段、演讲音频等容易被抓取，成为合成训练素材；另一方面，短视频传播链条长、分发速度快，个别内容生产者以“二次创作”“娱乐化剪辑”为名，实则突破法律与伦理边界，甚至与营销、诈骗等灰色链条交织，借公众人物形象为内容“背书”以提升转化。 影响—— 此类“深度合成”内容的危害不止于个人名誉受损。对公众而言，高仿真视频可能放大误判，扰乱正常信息环境；对市场秩序而言，冒用公众人物形象进行广告导流、投资推介、移民中介宣传等，容易引发欺诈与纠纷；对社会治理而言，虚假内容“批量生成、分散发布、快速迭代”，抬高平台审核和执法取证成本。 霍启刚表示，过去半年随着对应的技术普及，侵权内容数量明显增加，团队已处置数千条仍难以根治，不得不安排专人每日投诉反馈，但新的合成视频与搬运账号仍不断出现。 对策—— 受访法律与治理人士认为，治理“深度合成”侵权需要多方协同：一是压实平台主体责任，完善合成内容标识、溯源与处置机制，对疑似冒用他人肖像、声音的账号提高审核强度，对多次违规者采取限流、封禁、清退等措施，并探索跨平台联动的黑名单与证据保全通道。二是强化依法打击，对利用合成内容实施诈骗、敲诈或牟取不正当利益的，依法追究相应责任；对未经授权的商业使用，依法支持权利人维权。三是推动技术防护升级，鼓励应用数字水印、内容指纹、可信时间戳等手段，提高伪造成本与识别效率。四是加强公众教育，围绕“看来源、验账号、核证据、不转账”等基本防骗原则，提升对合成视频、诱导性话术和虚假背书的识别能力。 前景—— 多位业内人士判断，随着生成技术持续迭代、成本更下降，合成内容将更隐蔽、更规模化，治理也将从“事后删除”加快转向“事前标识、事中阻断、事后追责”的闭环管理。另外，合法合规的应用空间依然广阔，关键在于明确边界：以授权为前提、以标识为底线、以可追责为保障，让技术创新在法治框架内运行。
当技术发展快于监管时，每一次点击、转发都可能在无意间推高侵权的扩散。霍启刚事件折射的不只是公众人物的维权难题，也提示数字时代公民权利保护面临的新挑战。在人工智能重塑信息生态的当下，尽快建立有效的约束与防护机制，比一味追求速度更紧迫。正如网络安全专家所言，抵御AI滥用的最后一道防线，仍是人的判断力与社会共治。