近期，网络空间出现利用技术合成手段制造虚假内容、误导公众的情况：有账号把“动物救人”“猎奇事件”等桥段拼接生成视频，却未按要求标注合成信息来源；有账号通过换脸、声音克隆冒充运动员、演员、主持人、企业家等公众人物，编造所谓“最新表态”，或将合成内容包装成“拜年”“送祝福”等商品售卖牟利；还有账号借火灾等公共事件制作虚假图片、视频，夸大灾情、编造事故，引发传播扩散。对此，网信部门督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规信息54.3万余条，并通报有关典型案例。
AI技术是一把双刃剑，关键在于如何使用。推动AI技术健康发展，既要释放其创新潜能，也要完善监管框架和行业规范。网信部门此次集中整治，为网络平台划清了法律底线，也提醒各方正视风险。只有坚持依法监管、科学监管、精准监管，才能让AI技术更好造福社会，同时避免被不法分子用于欺骗和伤害公众。净化网络生态需要政府、平台、企业和用户共同发力，形成合力，持续营造清朗的网络空间。