美国核安全专家敲了一记警钟，说要是人工智能深度参与到核武器预警系统里，搞不好会闹出灾难性的乌龙。比如这回美国对外关系委员会的研究员艾琳·D.邓巴克尔，就在媒体上专文指出，大伙儿还没把这事儿放在心上：人工智能要是钻空子，接管了预警系统或者把指挥权全抢走，再加上技术出个岔子，或者外头有人恶意捣乱，那可就麻烦了。虽说大家都还信着“人拿着最后那颗核弹头”，但这是给反击做准备的第一步，要是完全让人脑去干预，光靠这几个装置的话，出了事谁都担不起。邓巴克尔还拿冷战时的事儿当例子。话说1983年有一回，苏联那边的斯坦尼斯拉夫·彼得罗夫硬是凭借自己的直觉，没信系统的假警报，愣是把那场差点让世界炸锅的战争给拦下了。这就说明，不管机器再厉害，关键时刻还得是人来复核。 而且现在这技术本身还没长熟。你看那些算法有时候也会眼花，给你传个错的情报，搞得警报也不靠谱。另外就是搞假东西也太容易了，现在一张图、一段视频都能弄得跟真的一样，在最近的冲突里就没少骗人。连美国那边的大领导都中过招，这就更说明有人想往指挥链里钻空子的可能性大。 现在洲际导弹飞得太快了，发射到命中也就30分钟左右，留给咱们琢磨和反应的时间也就几分钟。要是这时候机器被误导了或者自己犯傻发了个错警报，根本没工夫让人好好验算一下。哪怕最后还是人下的命令，这一堆假情报也会把脑子搞乱。 邓巴克尔也给了点法子。技术上得给它加把锁，抬高审查的门槛，凡是机器做的分析都得贴上标签。制度上还得练人，多培养几个能独立思考的明白人，关键时刻别被机器带跑偏了。还有就是总统怎么用核武器得弄清楚规矩，最好各国也通通气建立个危机说话的地方。 说到底就是核武器这玩意关系到人类能不能活着，任何技术都得围着怎么稳当、怎么少犯错来转。以后大家还得接着聊核安全的事儿，弄个适应新技术的风险框框出来，别让科技成了破坏战略稳定的帮凶。和平这根线太细了，每一步技术跃进都得小心点。历史告诉我们人脑能救命；未来也告诉我们光靠机器不行。咱们得把技术管在制度里、责任担在人身上才行。