深度合成技术普及带来新风险 国安部门提醒警惕"AI换脸"诈骗与信息操纵

当前,以动态人脸合成、声纹模拟为代表的深度伪造技术发展迅速,在影视制作、文化传承等领域已出现不少被认可的创新应用;但其风险也在同步放大——有境外情报机构通过伪造公务人员影像、篡改政策文件制造虚假信息,试图削弱政府公信力;多地查获利用“AI换脸”冒充亲友实施电信诈骗的案件,单笔涉案金额最高达数百万元;还有黑产团伙通过伪造生物特征绕过银行风控系统,关键基础设施面临更高的数据泄露风险。

网络空间的清朗有序,既需要制度与技术的“硬约束”,也离不开每个网民的日常自觉。面对越来越逼真的合成内容,更要坚持事实核验和规则意识,把“不造谣、不传谣、不信谣”落实到具体行动中,把依法合规使用工具融入日常。守住真实性底线,才能让新技术更好服务社会与发展,也为国家安全和公共信任筑牢防线。