2019年11月，国家网信办等部门发布了《网络音视频信息服务管理规定》，要求AI技术生成的非真实音视频信息必须显著标识。2019年12月，国家网信办又印发了《网络信息内容生态治理规定》，明确禁止利用新技术从事违法行为。2021年1月，《民法典》正式实施，其中第1019条明确规定禁止用信息技术手段伪造他人肖像权。在AI技术普及的背景下，成毅、温峥嵘、王劲松等多位演员曾遭遇“AI换脸”侵害，比如有人用他的样貌生成短视频并发布在网络上。北京市康达律师事务所合伙人罗娟指出，AI换脸和声音克隆主要侵犯了肖像权和名誉权。为了防止这类情况发生，2月12日豆包旗下的视频生成模型Seedance2.0上线时执行了严格限制，禁止生成明星、公众人物的肖像或视频。此外还有多位演员如薛凯琪也曾发布严正声明抵制这种行为。 2021年1月以来，类似利用AI技术进行虚假信息传播的事件屡屡发生。比如肖战就曾被指在短剧中的形象被“AI换脸”，《京华风云》里的服装造型甚至也和《藏海传》里的高度重合。Seedance2.0的出现让不少网友直言确实很难分辨。霍启刚在3月23日的社交账号发文称，自己的形象最近遭到了AI盗用。过去半年他已经处理了几千条相关假内容，还要给同事安排专职跟进来投诉反馈。这次事件引发了他的困扰：如果未来AI成本再降低，这类诈骗手段只会更多、更猖獗。 国家网信办针对这种现象制定了多项法规。霍启刚提到自己在高铁站看到品牌店铺使用了他的肖像但并无关联。“一些业界朋友”最近也投诉说有人未经同意盗用他们的样貌和声音制造假信息甚至用于商业用途。“科技的发展不应该以牺牲个人权益为代价”，霍启刚希望未来对虚假信息的监管能更加严格。 针对这种情况豆包旗下的Seedance2.0全端上线后给明星、公众人物、网红的生成行为设下了禁令。“互联网发展得很快”，霍启刚还提醒大家要更加注意甄别网络信息防止上当受骗。“2019年11月”“2019年12月”“2021年1月”等时间点也进一步说明了相关法律的出台背景和时间线。