随着人工智能技术的快速发展，其应用已渗透到社会经济的各个层面。然而，技术进步的同时也为不法分子提供了新的作案工具。浙江省绍兴市上虞区法院近日宣判的一起案件，生动诠释了AI时代安全防护面临的现实挑战。 案件的主要参与者各具特点。谢运是一名"网络黄牛"，为了低价抢购茅台酒加价转卖牟利，从信息贩子赵令处违法购买了3400余条公民身份信息，包括身份证号、手机号及560余张头像照片。张质是一名自学网络安全技术的技术人员，专门从事人脸破解技术的定制化服务，在网络黑产圈子里颇有名气。赵令则充当信息贩子角色，在网络空间搜罗公民个人信息进行出售。三人分工明确，形成了一条完整的黑色产业链。 犯罪手段的技术含量值得关注。张质利用AI换脸技术，将他人的静态头像照片合成为眨眼的动态人脸视频，通过这种方式骗过销售茅台酒小程序的人脸识别验证系统。该技术手段的运用表明，当前广泛应用于金融、安全等领域的生物识别认证系统存在被破解的可能性。经查，谢运通过这种方式非法抢购60余瓶茅台酒，非法获利1.2万余元；张质因提供技术服务非法获利6000余元；赵令因出售个人信息非法获利1万余元。 法院的判决表明了对此类犯罪的严肃态度。2025年8月7日，上虞区法院作出判决，谢运、张质分别因犯非法控制计算机信息系统罪，被判处有期徒刑一年一个月和一年四个月，均适用缓刑，并分别处以罚金1.2万元和8000元；赵令因犯侵犯公民个人信息罪，被判处有期徒刑八个月，适用缓刑，罚金1.2万元。三人均未上诉，判决已生效。 这起案件的深层影响不容忽视。表面上看，这是一起利用技术手段进行商业欺诈的案件，但其背后反映的问题远超商业范畴。一旦人脸识别等关键生物认证技术被AI轻易破解，将直接威胁建立在其上的各类保密规则，包括涉密场所的门禁系统、机密文件的访问控制等，进而威胁国家秘密安全。这提示我们，生物识别技术的安全性已成为国家安全的重要组成部分。 AI技术的广泛应用也带来了新的风险隐患。当前，AI被应用于智能搜索、内容创作、办公助手等众多场景，其学习和决策高度依赖于海量数据的"喂养"。用户向AI工具输入的每一条信息都可能被收集与存储，引发个人信息泄露风险。据公开报道，某境外AI模型曾因开源库故障导致部分用户可以看到其他活跃用户的聊天记录、名字、支付地址等隐私信息。如果涉及的人员的信息数据被泄露，可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引，造成国家安全风险隐患。 敏感数据的非法访问也是现实威胁。国家安全部近日披露的典型案例显示，某单位直接使用开源框架建立联网大模型，导致攻击者未经授权即可自由访问内部网络。案例中，工作人员违规使用开源AI工具处理内部文件，因电脑系统默认开启公网访问且未设置密码，导致敏感资料被境外IP非法访问和下载。这表明，AI技术的不当使用可能成为泄露国家秘密的"隐形通道"。 深度伪造技术的滥用也构成严重威胁。虽然这项技术在影视、游戏、广告等行业有合法应用价值，但一旦被恶意使用，将给社会稳定和国家安全带来诸多风险。国家安全机关已发现，某些境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播，误导舆论、制造恐慌，对国家安全构成直接威胁。 面对AI带来的新挑战，防范措施必须跟上。对机关单位而言，必须严格遵守"涉密不上网、上网不涉密"的核心原则，严禁使用AI工具处理国家秘密、工作秘密和不宜公开的敏感信息。同时，要构建起"人防、物防、技防"相结合的立体保密防线，确保关键信息系统的安全可控。对企业而言，应结合实际情况加强技术防护，分析识别异常流量，强化身份验证机制，有针对性地部署防范深度伪造技术的措施。对个人而言，应提高信息安全意识，谨慎处理个人信息，避免向不明来源的AI工具输入敏感数据。
本案作为新技术环境下的典型犯罪案例，既展现了司法机关应对科技犯罪的决心和能力，也为全社会敲响了技术安全应用的警钟。在数字化转型加速推进的今天，如何在享受技术红利的同时防范潜在风险，已成为管理者、企业和个人面前的重要课题。唯有建立技术发展与安全保障的良性互动机制，才能真正实现数字时代的稳健发展。