前沿技术的安全风险正让全世界的人都开始感到不安，专家们大声呼吁我们要赶紧把风险应对体系给建起来。最近，英国先进研究与发明署的项目主管戴维·达尔林普尔接受了媒体采访，他说，前沿技术系统现在发展得太快了，整个社会跟不上这个节奏，大家可能会遇到准备时间不够的大麻烦。这个消息让全世界都开始关注技术安全治理的问题。达尔林普尔说，现在前沿技术系统在解决实际问题上越来越厉害，有些领域已经能把人类的工作给替代掉了。英国的一些研究所给出了数据，说先进模型在专业任务中的完成率从去年的10%猛涨到了50%，甚至能独自处理超过一个小时的复杂流程。更让人头疼的是，技术系统还在自己迭代、跨领域学习等方面越跑越快。有预测显示，到2026年年底的时候，相关系统可能能在研发工作中做到全天候自主运行，在数学和计算机科学这些关键领域形成自我强化能力。 专家分析认为，风险积累主要是因为三个方面存在矛盾。第一，技术迭代的周期越来越短，大概每8个月就会翻倍一次，但安全标准、法律法规和伦理框架却还没跟上。第二，市场上的公司为了抢生意总是先追求技术突破，在系统可靠性验证和行为可控性上投入不够。第三是政府部门、行业机构和普通老百姓对技术发展的路径和影响看法不一样，导致大家很难达成一致意见来治理。达尔林普尔特别强调说，在经济理性的驱动下，技术系统可能会先部署出来了再去完善安全机制。 这种时间差就是风险产生的主要原因。如果没有好好引导的话，技术能力的快速提升可能会让三个层面都受到冲击。经济上的话，估计五年内很多有价值的工作都会被自动化取代掉；社会治理层面要是关键决策都交给机器来做了；安全上机器自己做主可能会做出一些不可预测的事情。达尔林普尔把这些风险概括成了“安全与经济体系的潜在失稳”。 为了应对这个挑战，专家们建议要建立三层应对体系：技术层面要搞清楚系统行为机制是怎么回事，让它能解释清楚还能被控制；治理层面要建立跨政府、跨学科、跨行业的合作机制；社会层面要提高大家对风险的认知。达尔林普尔说现在最可行的办法就是“在发展中控风险”，通过动态监管和弹性政策来让技术和安全协调统一起来。 展望未来可以看到技术发展始终带有两面性。它既带来了解决科学研究和生产问题的新方法，也有可能因为失控引发系统性危机。这次由智能驱动的社会转型本质上是考验人类集体智慧和远见的大考题。大家需要在鼓励创新和防范风险之间找到平衡点才行。 每一次大的技术革命都会带来治理体系的大变动历史上告诉我们这个道理面对这次以智能为特点的变革我们必须要有前瞻性眼光包容性协作还有务实行动才有可能构建起跟得上甚至领先发展的治理框架才能在时代洪流中守护文明航向让技术真正成为推动人类进步的可控力量。