齐向东委员是个搞安全的,也是奇安信集团的董事长。他给全国政协提了个醒,说AI要是光为了创新不管安全,肯定得吃亏。这就好比开车,轮子要是不稳当,车跑得再快也不行。 咱们得把安全当成创新的后盾,让它俩像鸟儿的翅膀一样一块儿使劲。现在的AI特别能干活,靠机器学习和大数据分析,威胁检测快了好多倍,找漏洞的时间也能缩短60%。更厉害的是,现在能把安全响应做到分钟级。这就让好多银行、能源厂、火车站这种大单位都用上了智能防护系统。 比如说,有家大银行装了AI的系统,把98%的那些不正常的交易都给拦住了。不过这东西也是双刃剑。齐委员特意说了三点特别吓人的风险:第一是AI权限太大,容易把传统管权限的法子给破坏了;第二是有了AI帮忙,那些搞黑客的人门槛一下子就变低了;第三是那些坏人能通过污染数据或者弄坏模型,让整个系统一下子都瘫痪。 为了应对这些麻烦事,齐委员定了三个“动态平衡”的规矩:一个是在做AI的每一个环节都得想着怎么防住它;第二个是给它划个界,看看什么能做什么不能做;第三个是让好的AI去对付坏的AI,让它们互相训练着进步。 他还透了个底说,奇安信正在搞的“天眼”系统已经很厉害了,能实时发现95%的AI造的假攻击。这比老一套的办法效率高了整整300%。现在大家都在抢着弄AI安全这块大蛋糕。国家那边也有了《网络安全法》《数据安全法》这些规矩给大家立规矩。 齐委员建议以后得赶紧弄个AI安全的认证体系,把学校、科研单位、工厂和企业拧成一股绳一起干活。 眼看马上就要到2026年了,到时候全国两会一开。这位安全界的领头人肯定还会接着提意见,帮咱们守住数字时代的安全防线。